AI Overviews-ის ჰალუცინაცია: Google-მა ავიაკატასტროფაში Boeing-ის ნაცვლად Airbus-ი „დაადანაშაულა“
Air India-ს ტრაგიკული ავიაკატასტროფის შემდეგ, Google-ის AI Overviews ფუნქციამ მცდარი ინფორმაციის გავრცელება დაიწყო და მომხდარში Boeing 787-ის ნაცვლად, Airbus-ის თვითმფრინავი „დაადანაშაულა“. ეს შემთხვევა AI-ის მიერ გენერირებული ინფორმაციის სანდოობის პრობლემას კიდევ ერთხელ წარმოაჩენს.
Google-ის დისკლეიმერში ნათქვამია, რომ AI-ს პასუხები „შეიძლება შეცდომებს შეიცავდეს“, რაც აშკარად შერბილებული ნათქვამია.
როდესაც მნიშვნელოვანი მოვლენები ხდება, ადამიანების უმეტესობა ინფორმაციის მოსაძიებლად Google-ს მიმართავს. სულ უფრო ხშირად, პირველი, რასაც ისინი ხედავენ, არის AI Overview — ფუნქცია, რომელსაც უკვე აქვს თვალშისაცემი შეცდომების დაშვების რეპუტაცია. ინდოეთში მომხდარი ტრაგიკული ავიაკატასტროფის ფონზე, Google-ის AI-ძიების შედეგები დეზინფორმაციას ავრცელებს და ამტკიცებს, რომ ინციდენტში Airbus-ის თვითმფრინავი მონაწილეობდა — სინამდვილეში კი ეს Boeing 787 იყო.
ბოლო წლებში Boeing-ის 737 ხაზის თვითმფრინავების კატასტროფების სერიის შემდეგ, მგზავრები ავიალაინერების მოდელებში უკეთ ერკვევიან. ავიაკატასტროფების შესახებ ძიებები უახლოეს დღეებში, სავარაუდოდ, ასტრონომიულად გაიზრდება, რადგან გავრცელდა ინფორმაცია, რომ Air India-ს 171-ე რეისის კატასტროფისას 200-ზე მეტი მგზავრი და ეკიპაჟის წევრი დაიღუპა. გენერაციული AI-ს მუშაობის პრინციპიდან გამომდინარე, ზოგიერთ ადამიანს, რომელიც დეტალებს ეძებს, შესაძლოა, Google-ის შედეგების გვერდიდან მცდარი შთაბეჭდილება შეექმნას.
ყველა ძიებაზე AI-პასუხი არ გაიცემა, მაგრამ Google-ი ამ ფუნქციას გასულ წელს მისი დებიუტის შემდეგ სტაბილურად აფართოებს. Reddit-ზე ერთ-ერთმა მომხმარებელმა შენიშნა შემაშფოთებელი კონფაბულაცია, როდესაც Airbus-ის თვითმფრინავების კატასტროფებს ეძებდა. AI Overviews, რომელიც, როგორც ჩანს, Air India-ს კატასტროფის შესახებ ინფორმაციით იყო გადატვირთული, თავდაჯერებულად (და არასწორად) აცხადებდა, რომ ეს იყო Airbus A330, რომელიც აფრენიდან მალევე ჩამოვარდა. ჩვენც ჩავატარეთ რამდენიმე მსგავსი ძიება — ზოგიერთი AI-შედეგი ამბობს Boeing, ზოგი — Airbus, ზოგი კი Airbus-ისა და Boeing-ის უცნაურ ნაზავს გვთავაზობს. სრული ქაოსია.
ამ ძიებაში, Google-ის AI ამბობს, რომ კატასტროფაში მონაწილეობდა Airbus A330, ნაცვლად Boeing 787-ისა.
მაგრამ რატომ ახსენებს Google-ი საერთოდ Air India-ს კატასტროფას Airbus-ის კონტექსტში? სამწუხაროდ, შეუძლებელია იმის პროგნოზირება, მიიღებთ თუ არა AI-მიმოხილვას, რომელიც Boeing-ს ან Airbus-ს დაადანაშაულებს — გენერაციული AI არადეტერმინისტულია, რაც ნიშნავს, რომ შედეგი ყოველ ჯერზე განსხვავებულია, იდენტური მოთხოვნების შემთხვევაშიც კი. ჩვენი საუკეთესო ვარაუდით, ძირითადი მიზეზი ის არის, რომ Air India-ს კატასტროფის შესახებ უამრავი სტატია Airbus-ს, როგორც Boeing-ის მთავარ კონკურენტს, ახსენებს. AI Overviews არსებითად აჯამებს ამ შედეგებს და AI არასწორ გზას ირჩევს, რადგან მას არ შეუძლია იმის გაგება, თუ რა არის სიმართლე.
არასაკმარისი გაფრთხილება
Google-ი არ მალავს, რომ მის გენერაციულ AI ინსტრუმენტებს შეუძლიათ შეცდომების დაშვება — ყოველი AI-მიმოხილვის ბოლოში არის დისკლეიმერი, სადაც აღნიშნულია, რომ „AI-პასუხები შეიძლება შეცდომებს შეიცავდეს“. მაგრამ ის არც ისე თვალსაჩინოა და მომხმარებლებმა, შესაძლოა, უბრალოდ, ყურადღება არ მიაქციონ მას. ალბათ, ეს გაფრთხილებები საკმარისი არ არის, როდესაც ჰალუცინაციები ასეთი გავრცელებულია. ამ შემთხვევაში, AI Overview-ს შეცდომამ შეიძლება Airbus-ი გააღიზიანოს, რომელსაც, სავარაუდოდ, საერთოდ არ სურს ამ კონტექსტში ხსენება. ამასობაში, ამან შეიძლება მცირე საფარი შეუქმნას Boeing-ს, რომელმაც თავისი წილი რეპუტაციული ზიანი უკვე მიიღო ბოლოდროინდელი პრობლემების გამო.
Google-მა Ars-ს განუცხადა, რომ მან ხელით წაშალა ეს პასუხი AI Overviews-იდან. აქ არის კომპანიის სრული განცხადება: „როგორც ძიების ყველა ფუნქციის შემთხვევაში, ჩვენ აქტიურად ვახორციელებთ გაუმჯობესებებს და ვიყენებთ ამის მსგავს მაგალითებს ჩვენი სისტემების განახლებისთვის. ეს პასუხი აღარ ჩანს. ჩვენ ვინარჩუნებთ ხარისხის მაღალ თამასას ძიების ყველა ფუნქციასთან მიმართებაში და AI Overviews-ის სიზუსტის მაჩვენებელი სხვა ფუნქციების, მაგალითად, Featured Snippets-ის, დონეზეა.“
ITNEWS-ის მეგობარი ვებ-გვერდია ITJOBS.GE. ITJOBS.GE-ზე ორგანიზაციებს და ფიზიკურ პირებს, აქვთ უფლება განათავსონ როგორც ვაკანსიები, ტრენინგები და ივენთები ასევე კონკრეტული Tech დავალებები, რისთვისაც ეძებენ დეველოპერებს, დიზაინერებს, სეო სპეციალისტებს და ა.შ. ITJOBS.GE - იპოვე დასაქმების საუკეთესო შესაძლებლობები ან გამოაქვეყნე ვაკანსია / დავალება და მიაწვდინე ხმა სასურველ აუდიტორიას.
გაზიარება
როგორია თქვენი რეაქცია?
მოწონება
0
არ მომწონს
0
სიყვარული
0
სასაცილო
0
გაბრაზებული
0
მოწყენილი
0
ვაუ
0
