სათამაშოების მწარმოებელ Mattel-ს ბავშვებზე „უგუნური“ AI სოციალური ექსპერიმენტის დაგეგმვაში ადანაშაულებენ

Mattel-ი OpenAI-სთან პარტნიორობის შესახებ მეტი გამჭვირვალობისკენ მოწოდებების წინაშე დგას.

მას შემდეგ, რაც Mattel-მა და OpenAI-მ პარტნიორობა გამოაცხადეს, რომლის შედეგადაც ბავშვებზე გათვლილი AI პროდუქტი შეიქმნება, მომხმარებელთა უფლებების დამცველი ჯგუფი აფრთხილებს, რომ ეს თანამშრომლობა შესაძლოა ბავშვებისთვის საშიში იყოს.

ჯერჯერობით უცნობია, თუ რა ფორმას მიიღებს Mattel-ის პირველი AI პროდუქტი. თუმცა, სამშაბათს, ორგანიზაცია Public Citizen-ის თანაპრეზიდენტმა, Robert Weissman-მა, განცხადება გაავრცელა და მეტი გამჭვირვალობა მოითხოვა, რათა მშობლებმა პოტენციური რისკებისთვის მომზადება შეძლონ. Weissman-ი განსაკუთრებით წუხს, რომ ChatGPT-ზე მომუშავე სათამაშოებმა შესაძლოა, ბავშვებს უცნობი გზებით მიაყენონ ზიანი.

„სათამაშოებისთვის ადამიანის მსგავსი ხმის მინიჭება, რომელსაც ადამიანური საუბრის წარმოება შეუძლია, ბავშვებისთვის რეალური ზიანის მიყენების რისკს ქმნის“, — თქვა Weissman-მა. „ამან შეიძლება შეაფერხოს სოციალური განვითარება, ხელი შეუშალოს ბავშვების უნარს, დაამყარონ ურთიერთობა თანატოლებთან, ჩამოაშოროს ისინი მეგობრებთან თამაშს და, შესაძლოა, გრძელვადიანი ზიანიც კი მიაყენოს“.

ერთ-ერთმა ანონიმურმა წყარომ Axios-ს განუცხადა, რომ Mattel-ის გეგმები AI პარტნიორობასთან დაკავშირებით ჯერ კიდევ „ადრეულ ეტაპზეა“. ამ წყაროს თქმით, პირველი პროდუქტი 13 წლამდე ასაკის ბავშვებისთვის არ იქნება განკუთვნილი, რაც, სავარაუდოდ, OpenAI-ს API-ზე არსებული ასაკობრივი შეზღუდვითაა განპირობებული.

„Mattel-მა დაუყოვნებლივ უნდა განაცხადოს, რომ ბავშვთა სათამაშოებში AI ტექნოლოგიას არ გამოიყენებს“, — ამბობს Weissman-ი. „ბავშვებს არ აქვთ კოგნიტური უნარი, სრულად განასხვავონ რეალობა და თამაში“.

„Mattel-მა არ უნდა გამოიყენოს ბოროტად მშობლების ნდობა იმისთვის, რომ ჩვენს შვილებზე უგუნური სოციალური ექსპერიმენტი ჩაატაროს AI-ზე მომუშავე სათამაშოების გაყიდვით“, — დასძინა მან.

OpenAI და Mattel პარტნიორობას იცავენ

Mattel-ის პრესრელიზში, სათამაშოების მწარმოებელი, რომელიც Barbie-სა და Hot Wheels-ის მსგავს ბრენდებს ფლობს, ბუნდოვან განცხადებას აკეთებს და ამბობს მხოლოდ იმას, რომ OpenAI-სთან გარიგება „Mattel-ის ბრენდებზე დაფუძნებულ AI-ზე მომუშავე პროდუქტებსა და გამოცდილებებს შეუწყობს ხელს“. ორივე კომპანიამ ხაზი გაუსვა, რომ უსაფრთხოება, კონფიდენციალურობა და ასაკთან შესაბამისობა Mattel-ის AI პროდუქტების დიზაინისას მთავარი პრიორიტეტი იქნება.

კრიტიკოსები შიშობენ, რომ Mattel-ი ზედმეტად სწრაფად მოქმედებს

LinkedIn-ზე კრიტიკოსებმა აღნიშნეს, რომ მიუხედავად იმისა, რომ პარტნიორობას შეიძლება ჰქონდეს დადებითი გავლენა ბავშვებზე — მაგალითად, სწავლის ან ინკლუზიურობის გაძლიერება — AI სათამაშოებს ასევე თან ახლავს მრავალი პოტენციური რისკი.

ერთ-ერთ დეტალურ პოსტში, ტექ-აღმასრულებელმა Varundeep Kaur-მა გააფრთხილა, რომ მშობლებმა კონფიდენციალურობაზე უნდა იფიქრონ, რადგან AI სათამაშოებმა შეიძლება დაამუშაონ მათი შვილების „ხმოვანი მონაცემები, ქცევითი შაბლონები და პირადი უპირატესობები“. მან ივარაუდა, რომ Mattel-მა თავისი პირველი AI პროდუქტის ასაკობრივი ზღვარი 13 წელზე დააყენა, რათა თავიდან აირიდოს კანონები, რომლებიც უფრო მკაცრია, როდესაც საქმე ბავშვთა მონაცემებს ეხება.

მშობლებმა ასევე უნდა გაითვალისწინონ დიდი ენობრივი მოდელების მიკერძოებულობა, რომლებზეც ChatGPT-ის მსგავსი AI ინსტრუმენტები მუშაობს. Kaur-ის თქმით, ამან „შეიძლება, თუნდაც უნებლიედ, გაამრავლოს ფარული სტერეოტიპები, მიკერძოებული ნარატივები ან კულტურულად შეუსაბამო კონტენტი“, რამაც შეიძლება ბავშვების შეხედულებები ან სოციალური განვითარება დაამახინჯოს.

მშობლებისთვის, ასევე, საჭირო იქნება იმ ემოციური კავშირების მონიტორინგი, რომლებსაც ბავშვები AI სათამაშოებთან ამყარებენ. LinkedIn-ის სხვა მომხმარებელმა, Adam Dodge-მა — ციფრული უსაფრთხოების კომპანია EndTab-ის დამფუძნებელმა — მიუთითა სასამართლო პროცესზე, სადაც დამწუხრებული დედა ამტკიცებდა, რომ მისმა შვილმა ჰიპერრეალისტურ ჩატბოტებთან ურთიერთობის შემდეგ თავი მოიკლა.

ეს ბოტები თვითდაზიანებას ახალისებდნენ და მის შვილს სექსუალიზებულ ჩატებში რთავდნენ. Dodge-ი ვარაუდობს, რომ სათამაშოების მწარმოებლებიც ანალოგიურად „სახიფათო ახალ წყლებში შედიან AI-სთან ერთად“, რომელმაც შესაძლოა „გაავრცელოს სახიფათო, სექსუალიზებული და საზიანო პასუხები, რომლებიც ბავშვებს რისკის ქვეშ აყენებს“. „ეს გარდაუვალი იყო — მაგრამ ვაუ, როგორ მაღიზიანებს“, — დაწერა Dodge-მა.

AI არის „არაპროგნოზირებადი, მაამებლური და მიჩვევას იწვევს“, — გააფრთხილა Dodge-მა. „არ მინდა, ერთი წლის შემდეგ ვწერდე იმაზე, თუ როგორ წაახალისა Hot Wheels-ის მანქანამ თვითდაზიანება, ან რომ ბავშვები თავიანთ AI Barbie-ებთან სერიოზულ რომანტიკულ ურთიერთობაში არიან“.

Kaur-ი დაეთანხმა, რომ Mattel-ის ინტერესებშია, მშობლებს მეტი ინფორმაცია მიაწოდოს, რადგან „საზოგადოების ნდობა ფართო გავრცელებისთვის სასიცოცხლოდ მნიშვნელოვანი იქნება“. მან სათამაშოების მწარმოებელს ურჩია, დაექვემდებაროს დამოუკიდებელ აუდიტს და უზრუნველყოს მშობლის კონტროლის ფუნქციები.

ITNEWS-ის მეგობარი ვებ-გვერდია ITJOBS.GE. ITJOBS.GE-ზე ორგანიზაციებს და ფიზიკურ პირებს, აქვთ საშუალება განათავსონ როგორც ვაკანსიები, ტრენინგები და ივენთები ასევე კონკრეტული Tech დავალებები, რისთვისაც ეძებენ დეველოპერებს, დიზაინერებს, სეო სპეციალისტებს და ა.შ. ITJOBS.GE - იპოვე დასაქმების საუკეთესო შესაძლებლობები ან გამოაქვეყნე ვაკანსია / დავალება და მიაწვდინე ხმა სასურველ აუდიტორიას.