ChatGPT-ს გამოგონებული ფუნქცია კომპანიამ რეალობად აქცია
ნოტების პლატფორმა Soundslice-მა ახალი ფუნქცია მას შემდეგ შექმნა, რაც აღმოაჩინა, რომ ChatGPT მომხმარებლებს ატყუებდა და არწმუნებდა, თითქოს სერვისს ASCII ტაბულატურის იმპორტი შეეძლო. ეს, სავარაუდოდ, პირველი შემთხვევაა, როდესაც ბიზნესი ფუნქციას AI-ის ჰალუცინაციის გამო ქმნის.
ნოტების პლატფორმა Soundslice-მა განაცხადა, რომ ახალი ფუნქცია შეიმუშავა მას შემდეგ, რაც აღმოაჩინა, რომ ChatGPT მომხმარებლებს მცდარ ინფორმაციას აწვდიდა და არწმუნებდა, თითქოს სერვისს ASCII ტაბულატურის იმპორტი შეეძლო — გიტარის ნოტაციის ტექსტური ფორმატი, რომლის მხარდაჭერაც კომპანიას არასდროს ჰქონია. ეს, სავარაუდოდ, პირველი შემთხვევაა, როდესაც ბიზნესმა ფუნქციონალი უშუალოდ ხელოვნური ინტელექტის მოდელის კონფაბულაციის (ინფორმაციის გამოგონების) საპასუხოდ შექმნა.
ჩვეულებრივ, Soundslice-ი ნოტებს ფოტოებიდან ან PDF ფაილებიდან ციფრულ ფორმატში გადასცემს და ნოტაციას აუდიო ან ვიდეო ჩანაწერთან ასინქრონებს, რაც მუსიკოსებს საშუალებას აძლევს, დაკვრის მოსმენის პარალელურად, ნოტების მოძრაობასაც ადევნონ თვალი.
Soundslice-ის თანადამფუძნებელმა, Adrian Holovaty-მ, ბლოგპოსტში დაწერა, რომ ახალი ფუნქციის შემუშავების პროცესი სრულიად იდუმალებით დაიწყო. რამდენიმე თვის წინ მან კომპანიის შეცდომების ჟურნალში უჩვეულო აქტივობა შენიშნა. ტიპური ნოტების ატვირთვის ნაცვლად, მომხმარებლები აგზავნიდნენ ChatGPT-სთან საუბრის სკრინშოტებს, რომლებიც ASCII ტაბულატურას შეიცავდა — გიტარის მუსიკის უბრალო ტექსტურ გამოსახულებას.
Soundslice-ის ASCII ტაბულატურის იმპორტის ახალი ფუნქციის დოკუმენტაციის სკრინშოტი, რომელიც თავდაპირველად ChatGPT-მ „მოიგონა“, მოგვიანებით კი რეალობად იქცა.
ჩვენი სკანირების სისტემა ამ სტილის ნოტაციის მხარდასაჭერად შექმნილი არ იყო“, — წერს Holovaty. „მაშ, რატომ ვიღებდით ამდენ სკრინშოტს ASCII ტაბულატურით? კვირების განმავლობაში გაოცებული ვიყავი, სანამ თავად არ ვცადე ChatGPT-სთან მუშაობა.“ როდესაც Holovaty-მ ChatGPT გამოსცადა, გაურკვევლობის წყაროც აღმოაჩინა: ხელოვნური ინტელექტის მოდელი მომხმარებლებს ავალებდა, შეექმნათ Soundslice-ის ანგარიში და პლატფორმა ASCII ტაბულატურის იმპორტისთვის გამოეყენებინათ, რათa აუდიო ვერსია მოესმინათ — ეს ფუნქცია კი საერთოდ არ არსებობდა. „ჩვენ არასდროს გვქონია ASCII ტაბულატურის მხარდაჭერა; ChatGPT ხალხს აშკარად ატყუებდა“, — წერს Holovaty. „და ამ პროცესში ჩვენ გვაყენებდა ცუდ მდგომარეობაში, რადგან ჩვენი სერვისის შესახებ მცდარ მოლოდინებს ქმნიდა.“ როდესაც ChatGPT-ის მსგავსი AI მოდელები აშკარა თავდაჯერებულებით მცდარ ინფორმაციას აგენერირებენ, AI მკვლევრები ამას „ჰალუცინაციას“ ან „კონფაბულაციას“ უწოდებენ. ეს პრობლემა მოდელებს 2022 წლის ნოემბრიდან, ChatGPT-ის საჯარო გამოშვების დღიდან ახასიათებთ.
როგორც პროგნოზირების მანქანები, დიდი ენობრივი მოდელები უზარმაზარ ტექსტურ მონაცემებზე არიან გაწვრთნილი და მარტივად შეუძლიათ ისეთი შედეგების გენერირება, რომლებიც დამაჯერებლად გამოიყურება, მაგრამ სინამდვილეში არაზუსტია. ChatGPT-მ მომხმარებლებს უთხრა ის, რისი მოსმენაც სურდათ — მოიგონა Soundslice-ის ფუნქცია, რომელიც ლოგიკურად ჟღერდა, მაგრამ არ არსებობდა.
ჩვეულებრივ, კონფაბულაციები ადამიანებს პრობლემებს უქმნის. 2023 წლის ერთ-ერთ გახმაურებულ საქმეში, ადვოკატებს სანქციები დაუწესდათ მას შემდეგ, რაც სასამართლოში წარადგინეს იურიდიული დოკუმენტები, რომლებიც შეიცავდა ChatGPT-ის მიერ გენერირებულ, არარსებულ სასამართლო საქმეებზე მითითებებს. 2024 წლის თებერვალში კი კანადის სამოქალაქო დავების ტრიბუნალმა Air Canada-ს დაავალა ზიანის ანაზღაურება კლიენტისთვის და იმ სამგლოვიარო ტარიფის პოლიტიკის დაცვა, რომელიც დამხმარე ჩატბოტმა „მოიგონა“.
ხარვეზიდან — ფუნქციამდე
ამ აღმოჩენამ Soundslice-ი უჩვეულო დილემის წინაშე დააყენა. კომპანიას შეეძლო, უბრალოდ გაეფრთხილებინა მომხმარებლები, რომ ChatGPT-ის მტკიცებები უგულებელეყოთ, მაგრამ მათ სხვა გზა აირჩიეს. „საბოლოოდ გადავწყვიტეთ: რატომაც არა, ბარემ ბაზრის მოთხოვნას დავაკმაყოფილებთ“, — განმარტა Holovaty-მ. გუნდმა შექმნა ASCII ტაბულატურის იმპორტის ფუნქცია და განაახლა მომხმარებლის ინტერფეისი, რათა ყველასთვის ეცნობებინათ ახალი შესაძლებლობის შესახებ.
Soundslice-ის გადაწყვეტილება პრობლემის კრეატიულად მოგვარების საინტერესო მაგალითია, მაგრამ Holovaty-სთვის ეს სიტუაცია პროდუქტის განვითარების შესახებ ფილოსოფიურ კითხვებს აჩენს. „ამაზე წინააღმდეგობრივი გრძნობები მაქვს“, — წერს ის. „მიხარია, რომ ვამატებთ ინსტრუმენტს, რომელიც ხალხს დაეხმარება. მაგრამ ვგრძნობ, რომ რაღაც უცნაური გზით ვიყავით იძულებულები. ნამდვილად უნდა ვქმნიდეთ ფუნქციებს დეზინფორმაციის საპასუხოდ?“
ITNEWS-ის მეგობარი ვებ-გვერდია ITJOBS.GE. ITJOBS.GE-ზე ორგანიზაციებს და ფიზიკურ პირებს, აქვთ საშუალება განათავსონ როგორც ვაკანსიები, ტრენინგები და ივენთები ასევე კონკრეტული Tech დავალებები, რისთვისაც ეძებენ დეველოპერებს, დიზაინერებს, სეო სპეციალისტებს და ა.შ. ITJOBS.GE - იპოვე დასაქმების საუკეთესო შესაძლებლობები ან გამოაქვეყნე ვაკანსია / დავალება და მიაწვდინე ხმა სასურველ აუდიტორიას.
გაზიარება
როგორია თქვენი რეაქცია?
მოწონება
0
არ მომწონს
0
სიყვარული
0
სასაცილო
0
გაბრაზებული
0
მოწყენილი
0
ვაუ
0
