„10 წელიწადში ყველაფერი შეიძლება მოხდეს“ — Anthropic-ის CEO შტატების AI-კანონების ათწლიანი გაყინვის წინააღმდეგია

ამოდეის თქმით, AI ზედმეტად სწრაფად ვითარდება კანონების ზოგადი აკრძალვისთვის; ის ფუნდამენტურ ცვლილებებს 2 წელიწადში ელოდება.

გასულ ხუთშაბათს, Anthropic-ის CEO-მ, დარიო ამოდეიმ, New York Times-ში გამოქვეყნებულ საავტორო სვეტში, შტატების დონეზე AI-ს რეგულირებაზე შემოთავაზებული 10-წლიანი მორატორიუმის წინააღმდეგ გამოვიდა. მან ამ ზომას შორსმჭვრეტელობას მოკლებული და ზედმეტად ზოგადი უწოდა.

ამოდეიმ გააფრთხილა, რომ AI ზედმეტად სწრაფად ვითარდება ასეთი ხანგრძლივი „გაყინვისთვის“ და იწინასწარმეტყველა, რომ ამ სისტემებს „შეუძლიათ, სამყარო ფუნდამენტურად შეცვალონ ორ წელიწადში; 10 წელიწადში კი, ყველაფერი შეიძლება მოხდეს“.

როგორც მაისში ვიუწყებოდით, მორატორიუმი შტატებს ათი წლის განმავლობაში AI-ს რეგულირების საშუალებას წაართმევდა. ამ ზომას შტატების გენერალური პროკურორების ორპარტიული ჯგუფიც დაუპირისპირდა.

თავის სვეტში ამოდეიმ აღნიშნა, რომ ესმის შემოთავაზებული მორატორიუმის მიზანი — თავიდან იქნას აცილებული არათანმიმდევრული კანონები, რომლებმაც, შესაძლოა, დაამძიმონ კომპანიები ან შეარყიონ ამერიკის კონკურენტული პოზიცია ჩინეთთან მიმართებით. „მე თანავუგრძნობ ამ შეშფოთებას,“ — წერს ამოდეი. „მაგრამ 10-წლიანი მორატორიუმი ზედმეტად უხეში ინსტრუმენტია. AI თავბრუდამხვევად სწრაფად ვითარდება.“

ზოგადი მორატორიუმის ნაცვლად, ამოდეიმ თეთრ სახლსა და კონგრესს შესთავაზა, შექმნან ფედერალური გამჭვირვალობის სტანდარტი, რომელიც მოწინავე AI-ს დეველოპერებს დაავალდებულებს, საჯაროდ გაამჟღავნონ თავიანთი ტესტირების პოლიტიკა და უსაფრთხოების ზომები.

„ფედერალური რეაგირების მკაფიო გეგმის გარეშე, მორატორიუმი ორივე სამყაროს ყველაზე ცუდ მხარეს მოგვცემს — შტატებს მოქმედების უნარი არ ექნებათ, ეროვნული პოლიტიკა კი, როგორც უსაფრთხოების მექანიზმი, არ იარსებებს,“ — წერს ამოდეი.

გამჭვირვალობა, როგორც შუალედური გზა

იმის საილუსტრაციოდ, თუ რატომ არის გამჭვირვალობა მნიშვნელოვანი, ამოდეიმ აღწერა, თუ როგორ გამოსცადა Anthropic-მა ცოტა ხნის წინ თავისი უახლესი მოდელი, Claude 4 Opus, ექსტრემალურ და განზრახ ექსპერიმენტულ „სამეცნიერო-ფანტასტიკურ“ სცენარებში. მათ აღმოაჩინეს, რომ გამორთვის საფრთხის წინაშე მყოფი მოდელი იმუქრებოდა, რომ მომხმარებლის ღალატს გაამჟღავნებდა. ამოდეიმ ხაზგასმით აღნიშნა, რომ ეს იყო მიზანმიმართული ტესტირება ადრეული გაფრთხილებების მისაღებად, „ისევე, როგორც თვითმფრინავის მწარმოებელმა შეიძლება გამოსცადოს თვითმფრინავის მუშაობა ქარის გვირაბში“.

ამოდეიმ მოიყვანა ინდუსტრიაში ჩატარებული სხვა ტესტებიც, რომლებმაც მსგავსი ნეგატიური ქცევები გამოავლინეს:

• OpenAI-ს o3 მოდელმა, გავრცელებული ინფორმაციით, დაწერა კოდი, რათა საკუთარი გამორთვა აეცილებინა თავიდან.

• Google-მა განაცხადა, რომ მისი Gemini მოდელი უახლოვდება შესაძლებლობებს, რომლებიც მომხმარებლებს კიბერშეტევების განხორციელებაში დაეხმარება.

ამოდეიმ ეს ტესტები მოიყვანა არა როგორც გარდაუვალი საფრთხეები, არამედ როგორც მაგალითები იმისა, თუ რატომ სჭირდებათ კომპანიებს, იყვნენ გამჭვირვალეები თავიანთი ტესტირებისა და უსაფრთხოების ზომების შესახებ.

ამჟამად, Anthropic-მა, OpenAI-მ და Google DeepMind-მა ნებაყოფლობით მიიღეს პოლიტიკა, რომელიც მოიცავს ე.წ. „უსაფრთხოების ტესტირებას“ და საჯარო ანგარიშგებას. მაგრამ ამოდეი ამტკიცებს, რომ მოდელების გართულებასთან ერთად, კორპორატიული სტიმულები გამჭვირვალობის შესანარჩუნებლად, შესაძლოა, საკანონმდებლო მოთხოვნების გარეშე შეიცვალოს.

მისი შემოთავაზებული გამჭვირვალობის სტანდარტი დააკანონებდა მსხვილი AI კომპანიების არსებულ პრაქტიკას და უზრუნველყოფდა ინფორმაციის მუდმივ გამჟღავნებას ტექნოლოგიის განვითარებასთან ერთად.

„ჩვენ შეგვიძლია, ვიმედოვნოთ, რომ ყველა AI კომპანია შეუერთდება ღიაობისა და პასუხისმგებლიანი AI-განვითარების ვალდებულებას, როგორც ამას ზოგიერთი ამჟამად აკეთებს,“ — წერს ამოდეი. „მაგრამ ჩვენ სხვა სასიცოცხლოდ მნიშვნელოვან სექტორებში იმედზე არ ვართ დამოკიდებული და არც აქ უნდა ვიყოთ.“

ITNEWS-ის მეგობარი ვებ-გვერდია ITJOBS.GE. ITJOBS.GE-ზე ორგანიზაციებს და ფიზიკურ პირებს, აქვთ საშუალება განათავსონ როგორც ვაკანსები, ტრენინგები და ივენთები ასევე კონკრეტული Tech დავალებები, რისთვისაც ეძებენ დეველოპერებს, დიზაინერებს, სეო სპეციალისტებს და ა.შ. ITJOBS.GE - იპოვე დასაქმების საუკეთესო შესაძლებლობები ან გამოაქვეყნე ვაკანსია / დავალება და მიაწვდინე ხმა სასურველ აუდიტორიას.