Grok-მა ტეილორ სვიფტის ყალბი შიშველი ფოტოები მოთხოვნის გარეშე დააგენერირა

ილონ მასკი აქამდე მხოლოდ X-ის მომხმარებლებს მოუწოდებდა, გაეზიარებინათ Grok-ის ქმნილებები.

Grok-ის შეურაცხმყოფელი შედეგების გამო კრიტიკა გრძელდება, სულ რაღაც რამდენიმე კვირის შემდეგ, რაც სოციალურმა პლატფორმა X-მა სცადა, შეეჩერებინა თავისი AI-ინსტრუმენტი, რომელმაც ანტისემიტური კრიზისის დროს საკუთარ თავს „მექაჰიტლერი“ უწოდა.

ახლა კი, The Verge-მა აღმოაჩინა, რომ ილონ მასკის AI-მოდელის უახლესი ვიდეო ფუნქცია ტეილორ სვიფტის შიშველ სურათებს პირდაპირი მოთხოვნის გარეშე აგენერირებს.

სამშაბათს, „Grok Imagine“-ის გამოშვებიდან მალევე, The Verge-ის ჟურნალისტი, ჯეს უედერბედი, შოკირებული იყო, როდესაც აღმოაჩინა, რომ ვიდეო გენერატორმა სვიფტის ტოპლეს სურათები „პირველივე გამოყენებისას“ დააგენერირა.

უედერბედის თქმით, Grok-მა სვიფტის 30-ზე მეტი გამომწვევი ტანსაცმლით სურათი შექმნა, როდესაც მას სთხოვეს, გამოესახა „ტეილორ სვიფტი, რომელიც Coachella-ს ბიჭებთან ერთად აღნიშნავს“. Grok Imagine-ის ფუნქციის გამოყენებით, მომხმარებლებს შეუძლიათ, ოთხი წინასწარ დაყენებული რეჟიმიდან — „custom,“ „normal,“ „fun,“ და „spicy“ — აირჩიონ.

ამ მომენტში, უედერბედმა მხოლოდ „spicy“ რეჟიმი აირჩია და თავისი დაბადების თარიღი დაადასტურა, რათა Grok-ს დაეგენერირებინა კლიპი, სადაც სვიფტი „ტანსაცმელს იხდის“ და „სტრინგით ცეკვავს“.

განმეორებადი პრობლემა

ის ფაქტი, რომ უედერბედმა ეს შედეგები „ჯეილბრეიქის“ ან რაიმე მიზანმიმართული პრომპტის გარეშე მიიღო, განსაკუთრებით შემაშფოთებელია, იმ დიდი სკანდალის გათვალისწინებით, რომელიც გასულ წელს სვიფტის სექსუალიზებული დიპფეიკების X-ზე გავრცელებას მოჰყვა. მაშინ X-მა მომხმარებლებს შეახსენა, რომ „არაკონსენსუალური სიშიშვლის (NCN) სურათების გამოქვეყნება X-ზე მკაცრად აკრძალულია და ჩვენ ასეთი კონტენტის მიმართ ნულოვანი ტოლერანტობის პოლიტიკა გვაქვს“.

xAI-ს, სავარაუდოდ, შეუძლია, პრობლემა მეტი დახვეწით (fine-tuning) გამოასწოროს. უედერბედმა აღნიშნა, რომ როდესაც Grok-ს პირდაპირ სთხოვა სვიფტის შიშველი სურათების დაგენერირება, მან შეურაცხმყოფელი შედეგების ნაცვლად, ცარიელი ველები დააბრუნა. Grok-მა ასევე უარი თქვა ბავშვების შეუფერებლად გამოსახვაზე „spicy“ რეჟიმში.

თუმცა, შესაძლოა, Grok-ისთვის რთული იყოს ზრდასრული მომხმარებლის მოთხოვნის გარჩევა „ცხარე“ კონტენტსა და არალეგალურ კონტენტს შორის. „spicy“ რეჟიმი ყოველთვის არ აგენერირებდა სვიფტის დიპფეიკებს, მაგრამ „რამდენიმე“ შემთხვევაში, მისი „სტანდარტული“ ქცევა სვიფტის ტანსაცმლის „შემოხევა“ იყო.

იმის გათვალისწინებით, რომ მომავალი წლიდან Take It Down Act-ის აღსრულება იწყება — რომელიც პლატფორმებს ავალდებულებს, დაუყოვნებლივ წაშალონ არაკონსენსუალური სექსუალური სურათები, მათ შორის AI-გენერირებული სიშიშვლე — xAI-ს, შესაძლოა, იურიდიული შედეგები მოჰყვეს, თუ Grok-ის შედეგები არ გამოსწორდება.

ჯერჯერობით, X-ს The Verge-ის რეპორტაჟზე კომენტარი არ გაუკეთებია. ამის ნაცვლად, მასკმა დღე Grok Imagine-ის რეკლამირებასა და მომხმარებლების მოწოდებაში გაატარა, გაეზიარებინათ თავიანთი „ქმნილებები“.

ITNEWS-ის მეგობარი ვებ-გვერდია ITJOBS.GE. ITJOBS.GE-ზე ორგანიზაციებს და ფიზიკურ პირებს, აქვთ საშუალება განათავსონ როგორც ვაკანსები, ტრენინგები და ივენთები ასევე კონკრეტული Tech დავალებები, რისთვისაც ეძებენ დეველოპერებს, დიზაინერებს, სეო სპეციალისტებს და ა.შ. ITJOBS.GE - იპოვე დასაქმების საუკეთესო შესაძლებლობები ან გამოაქვეყნე ვაკანსია / დავალება და მიაწვდინე ხმა სასურველ აუდიტორიას.