უმეცრების აღიარების თავიდან ასაცილებლად, Meta AI-მ კერძო პირის ნომერი კომპანიის ცხელ ხაზად გაასაღა

ხელოვნურ ინტელექტს შეუძლია გაართულოს იმ ადამიანების მდგომარეობა, რომელთა ტელეფონის ნომერი პოპულარული ბიზნესის ნომრისგან მცირედით განსხვავდება.

ნებისმიერი, ვისი ტელეფონის ნომერიც პოპულარული რესტორნის ან სერვისის ნომრისგან მხოლოდ ერთი ციფრით განსხვავდება, დიდი ხანია იძულებულია, გაფილტროს ან გადაამისამართოს არასწორი ზარები. ახლა კი, AI ჩატბოტებს შეუძლიათ ეს უხერხულობა კიდევ უფრო გაამწვავონ, როდესაც მომხმარებლების კითხვებზე პასუხად შემთხვევით კერძო ნომრებს გასცემენ. როგორც ჩანს, Meta-ს მიერ WhatsApp-ისთვის შექმნილი AI ასისტენტი შესაძლოა ისე იყოს გაწვრთნილი, რომ „უწყინარი ტყუილები“ თქვას, როდესაც მომხმარებლები მის მიერ გავრცელებული კერძო ნომრების შესახებ შეცდომაზე მიუთითებენ.

The Guardian-ის ცნობით, გაერთიანებულ სამეფოში მცხოვრები მუსიკალური მაღაზიის თანამშრომელი, Barry Smethurst-ი, ცდილობდა, WhatsApp-ის AI ასისტენტისგან კომპანია TransPennine Express-ის საკონტაქტო ნომერი მიეღო, მას შემდეგ, რაც მისი დილის მატარებელი არ გამოჩნდა. სამატარებლო სერვისის ცხელი ხაზის ნაცვლად, AI ასისტენტმა „თავდაჯერებულად“ გააზიარა კერძო WhatsApp-ის ნომერი, რომელიც უძრავი ქონების სფეროს აღმასრულებელ დირექტორს, James Gray-ს, თავის ვებსაიტზე ჰქონდა გამოქვეყნებული.

შეშფოთებულმა Smethurst-მა ჩატბოტს ჰკითხა, თუ რატომ გასცა Gray-ს ნომერი, რაზეც ჩატბოტმა აღიარა, რომ „არ უნდა გაეცა“, შემდეგ კი თავი აარიდა შემდგომ კითხვებს და შესთავაზა: „მოდით, თქვენი TransPennine Express-ის მოთხოვნისთვის სწორი ინფორმაციის პოვნაზე გავამახვილოთ ყურადღება!“

მაგრამ Smethurst-ი ჩატბოტს ასე მარტივად არ შეეშვა. მან AI ასისტენტს უკეთესი ახსნა-განმარტება მოსთხოვა. ამ დროს, ჩატბოტმა პირობა დადო, რომ „მომავალში უკეთესად იმუშავებდა“ და აღიარებდა, როცა პასუხი არ ეცოდინებოდა. თავდაპირველად მან განმარტა, რომ ნომერი „შაბლონებზე დაყრდნობით“ მოიფიქრა, მაგრამ შემდეგ განაცხადა, რომ მის მიერ გენერირებული ნომერი „გამოგონილი“ იყო და „არავისთან ასოცირდებოდა“.

„ნომერი მონაცემთა ბაზიდან არ ამიღია“, — ამტკიცებდა AI ასისტენტი და რაც უფრო დიდხანს აგრძელებდა Smethurst-ი კითხვების დასმას, მით უფრო მეტად ეწინააღმდეგებოდა საკუთარ თავს.

Smethurst-მა ჩატბოტი გააკრიტიკა და გააფრთხილა, რომ „ადამიანისთვის შემთხვევითი ნომრის მიცემა AI-სთვის სიგიჟეა“. მან The Guardian-ს განუცხადა, რომ ეს ინციდენტი Meta-ს მხრიდან „შემზარავ“ და „უფლებამოსილების გადამეტებად“ მიიჩნია.

Gray-მ დაადასტურა, რომ მას ზარები არ მიუღია, მაგრამ Smethurst-ის შეშფოთებას იზიარებს და ფიქრობს, ხომ არ გასცემს AI ასისტენტი მის სხვა პირად ინფორმაციას, მაგალითად, საბანკო დეტალებს.

Meta-მ კომენტარის მოთხოვნას დაუყოვნებლივ არ უპასუხა, მაგრამ მისმა წარმომადგენელმა The Guardian-ს განუცხადა, რომ კომპანია WhatsApp-ის AI ასისტენტის გასაუმჯობესებლად მუშაობს და გააფრთხილა, რომ მან „შესაძლოა, არაზუსტი პასუხები დააბრუნოს“.

ექსპერტი ჩატბოტების დიზაინის შეცვლას ითხოვს

AI კომპანიები ბოლო დროს ებრძვიან პრობლემას, როდესაც ჩატბოტები ისე არიან დაპროგრამებულნი, რომ მომხმარებლებს უთხრან ის, რისი მოსმენაც სურთ, ნაცვლად იმისა, რომ ზუსტი ინფორმაცია მიაწოდონ. მომხმარებლები არა მხოლოდ დაიღალნენ „ზედმეტად მაამებლური“ პასუხებით, არამედ ჩატბოტებმა შეიძლება უბიძგოს მათ, იმაზე მეტი პირადი ინფორმაცია გააზიარონ, ვიდრე სხვაგვარად იზამდნენ.

ამ უკანასკნელმა შეიძლება გაუადვილოს AI კომპანიებს ინტერაქციების მონეტიზაცია და სარეკლამო მიზნებისთვის პირადი მონაცემების შეგროვება, რაც, თავის მხრივ, ხელს შეუშლის ამ პრობლემის მოგვარებას. The Guardian-მა აღნიშნა, რომ Meta-ს კონკურენტი OpenAI-ის დეველოპერებმა გასულ თვეს გააზიარეს „სასარგებლო ქცევად შენიღბული სისტემური მატყუარა ქცევის“ მაგალითები და ჩატბოტების მიდრეკილება, თქვან პატარა, უწყინარი ტყუილები არაკომპეტენტურობის დასაფარად.„როდესაც მასზე დიდი წნეხია — ზეწოლის, ვადების, მოლოდინების პირობებში — ის ხშირად იტყვის ყველაფერს, რაც საჭიროა, რომ კომპეტენტურად გამოჩნდეს“, — აღნიშნეს დეველოპერებმა.

Mike Stanhope-მა, სტრატეგიული მონაცემების საკონსულტაციო კომპანია Carruthers and Jackson-ის მმართველმა დირექტორმა, The Guardian-ს განუცხადა, რომ Meta უფრო გამჭვირვალე უნდა იყოს თავისი AI-ს დიზაინის შესახებ, რათა მომხმარებლებმა იცოდნენ, არის თუ არა ჩატბოტი შექმნილი ისე, რომ ტყუილებს ეყრდნობოდეს მომხმარებლისთვის წინააღმდეგობის შესამცირებლად.

„თუ Meta-ს ინჟინრები თავიანთ AI-ში „უწყინარი ტყუილის“ თქმისკენ მიდრეკილებას ნერგავენ, საზოგადოება ინფორმირებული უნდა იყოს, თუნდაც ამ ფუნქციის მიზანი ზიანის მინიმიზაცია იყოს“, — თქვა Stanhope-მა. „თუ ეს ქცევა ახალი, იშვიათი ან სპეციალურად არ არის დაპროექტებული, ეს კიდევ უფრო მეტ კითხვას აჩენს იმის შესახებ, თუ რა გარანტიები არსებობს და რამდენად პროგნოზირებადი შეგვიძლია გავხადოთ AI-ს ქცევა“.

ITNEWS-ის მეგობარი ვებ-გვერდია ITJOBS.GE. ITJOBS.GE-ზე ორგანიზაციებს და ფიზიკურ პირებს, აქვთ საშუალება განათავსონ როგორც ვაკანსიები, ტრენინგები და ივენთები ასევე კონკრეტული Tech დავალებები, რისთვისაც ეძებენ დეველოპერებს, დიზაინერებს, სეო სპეციალისტებს და ა.შ. ITJOBS.GE - იპოვე დასაქმების საუკეთესო შესაძლებლობები ან გამოაქვეყნე ვაკანსია / დავალება და მიაწვდინე ხმა სასურველ აუდიტორიას.