TikTok-ი Google-ის Veo 3-ით გენერირებული რასისტული AI ვიდეოებით ივსება

Google-სა და TikTok-ს ამგვარი კონტენტის საწინააღმდეგო წესები აქვთ, მაგრამ, როგორც ჩანს, ამას მნიშვნელობა არ აქვს. 

Google-ის Veo 3 ვიდეო გენერატორის მაისში გამოშვებამ AI ვიდეოს ხარისხში შემაშფოთებელი ნახტომი გამოიწვია. მიუხედავად იმისა, რომ ბევრი ვირუსული AI ვიდეო, რომელიც ვნახეთ, უწყინარი გართობაა, მოდელის პიქსელ-პერფექტულ შედეგს ბოროტი მიზნებისთვისაც იყენებენ. TikTok-ზე, რომელიც, შესაძლოა, უახლოეს თვეებში აიკრძალოს, მომხმარებლებმა Google-ის Veo 3-ის წყალობით, რასისტული AI ვიდეოების სიჭარბე შენიშნეს. 

MediaMatters-ის ანგარიშის თანახმად, ბოლო კვირების განმავლობაში TikTok-ის მრავალმა ანგარიშმა დაიწყო AI-გენერირებული ვიდეოების გამოქვეყნება, რომლებიც რასისტულ და ანტისემიტურ სტერეოტიპებს იყენებს. AI-ის მიერ გენერირებული სიძულვილის უმეტესობა შავკანიანებისკენაა მიმართული, სადაც ისინი დანაშაულში „ჩვეულებრივ ეჭვმიტანილებად“, უპასუხისმგებლო მშობლებად და საზამთროს მოყვარულ მაიმუნებად არიან გამოსახული. კონტენტი ასევე მიმართულია იმიგრანტებისა და ებრაელების წინააღმდეგ. ვიდეოები რვა წამს არ აღემატება და აწერია „Veo“, რაც ადასტურებს, რომ ისინი Google-ის წამყვანი AI მოდელიდან მოდის. 

MediaMatters-ი იტყობინება, რომ ორიგინალ პოსტებს უამრავი კომენტარი აქვს, რომლებიც ვიდეოში გამოყენებულ სტერეოტიპებს იმეორებს. 

( იხილეთ ვიდეო აქ ) https://www.youtube.com/watch?v=C16oZPkeg-U 

Google-ი ახალი AI მოდელების ანონსირებისას ყოველთვის ხაზს უსვამს უსაფრთხოებას — ჩვენ ყველას გვინახავს, როგორ ამბობს უარს AI დავალების შესრულებაზე, რომელიც მისი დამცავი მექანიზმების წესებს ეწინააღმდეგება. Google-ი აქამდე, ძირითადად, სწორ ბალანსს ინარჩუნებდა, მაგრამ, როგორც ჩანს, Veo 3 უფრო დამყოლია. ჩვენ Veo 3-ით რამდენიმე მარტივი მოთხოვნა (prompt) შევამოწმეთ და აღმოვაჩინეთ, რომ ამ ვიდეოების ელემენტების გამეორება მარტივია. 

წესები, რომლებიც არ სრულდება 

TikTok-ის მომსახურების პირობები ამგვარ კონტენტს კრძალავს. „ჩვენ არ ვუშვებთ სიძულვილის ენას, მოძულე ქცევას ან მოძულე იდეოლოგიების პროპაგანდას“, — ნათქვამია საზოგადოების სახელმძღვანელოში. მიუხედავად რასისტული კარიკატურების ამ სრული აკრძალვისა, მოძულე Veo 3 ვიდეოები, როგორც ჩანს, უკონტროლოდ ვრცელდება. 

TikTok-ი აღნიშნავს, რომ ის იყენებს როგორც ტექნოლოგიას, ისე ადამიან-მოდერატორებს წესების დამრღვევი კონტენტის ამოსაცნობად. თუმცა, ატვირთვების მოცულობა დროულ მოდერაციას ართულებს. მიუხედავად იმისა, რომ რასისტულმა ვიდეოებმა ბევრი ნახვა დააგროვა, TikTok-ის წარმომადგენელი Ars-ს ეუბნება, რომ MediaMatters-ის ანგარიშში მოყვანილი ანგარიშების ნახევარზე მეტი პოლიტიკის დარღვევისთვის ანგარიშის გამოქვეყნებამდე დაიბლოკა, დანარჩენი კი ახლა წაიშალა. 

რაც შეეხება Google-ს, მას აქვს ყოვლისმომცველი „გამოყენების აკრძალვის პოლიტიკა“, რომელიც კრძალავს მისი სერვისების გამოყენებას სიძულვილის ენის, შევიწროების, ბულინგისა და შეურაცხყოფის გასავრცელებლად. MediaMatters-ის მიერ აღმოჩენილი ყველა ვიდეო, როგორც ჩანს, ამ კატეგორიებიდან ერთ ან რამდენიმეში ხვდება. იდეალურ სამყაროში, Veo 3 ამ ვიდეოების შექმნაზე უარს იტყოდა, მაგრამ მოთხოვნის ბუნდოვანება და AI-ის უუნარობა, გაიგოს რასისტული სტერეოტიპების ნიუანსები, წესების გვერდის ავლას აადვილებს. 

TikTok-ი, როგორც მსოფლიოს წამყვანი სოციალური ვიდეოების გიგანტი, ბუნებრივი ადგილია ამ ვიდეოების გასავრცელებლად. თუმცა, პრობლემა მხოლოდ TikTok-ით არ შემოიფარგლება. X-მა (ყოფილი Twitter) ძალიან შეზღუდული მოდერაციის რეპუტაცია მოიპოვა, რამაც მოძულე AI კონტენტის აფეთქება გამოიწვია. ეს პრობლემა, შესაძლოა, მალე კიდევ უფრო გამწვავდეს. Google-ი გეგმავს, Veo 3 YouTube Shorts-ში ჩააინტეგრიროს, რამაც შეიძლება კიდევ უფრო გააადვილოს მსგავსი კონტენტის გავრცელება YouTube-ზე. 

TikTok-სა და Google-ს ამ კონტენტის მკაფიო აკრძალვები აქვთ, რასაც ის სოციალურ მედიაში მილიონობით ნახვისგან უნდა დაეცვა. თუმცა, ამ პოლიტიკების აღსრულება აშკარად არასაკმარისია. 

ITNEWS-ის მეგობარი ვებ-გვერდია ITJOBS.GE. ITJOBS.GE-ზე ორგანიზაციებს და ფიზიკურ პირებს, აქვთ უფლება განათავსონ როგორც ვაკანსიები, ტრენინგები და ივენთები ასევე კონკრეტული Tech დავალებები, რისთვისაც ეძებენ დეველოპერებს, დიზაინერებს, სეო სპეციალისტებს და ა.შ. ITJOBS.GE - იპოვე დასაქმების საუკეთესო შესაძლებლობები ან გამოაქვეყნე ვაკანსია / დავალება და მიაწვდინე ხმა სასურველ აუდიტორიას.