პოლიციის საყვარელი AI ინსტრუმენტი ავტომატურად შლის მტკიცებულებას იმის შესახებ, თუ როდის გამოიყენეს AI

უფლებადამცველების თქმით, პოლიციის AI ინსტრუმენტი ანგარიშვალდებულების თავიდან ასარიდებლადაა შექმნილი. 

გასულ ხუთშაბათს, ციფრული უფლებების დამცველმა ჯგუფმა, Electronic Frontier Foundation-მა (EFF), გამოაქვეყნა ვრცელი გამოძიება AI-ის მიერ გენერირებული საპოლიციო ანგარიშების შესახებ. ჯგუფის მტკიცებით, ეს სისტემა, თავისი დიზაინით, თითქმის შეუძლებელს ხდის აუდიტს და, შესაძლოა, პოლიციელებს ფიცის ქვეშ ტყუილის თქმა გაუადვილოს. 

Axon-ის Draft One გასულ ზაფხულს კოლორადოს შტატის ერთ-ერთ პოლიციის დეპარტამენტში დაინერგა და მყისიერად გააჩინა კითხვები იმ ნეგატიური გავლენის შესახებ, რომელიც AI-ის მიერ დაწერილმა საპოლიციო ანგარიშებმა შეიძლება მოახდინოს სისხლის სამართლის სისტემაზე. ინსტრუმენტი ChatGPT-ის ვარიანტს იყენებს, რათა სამხრე კამერის აუდიოჩანაწერის საფუძველზე საპოლიციო ანგარიშები შექმნას. ამის შემდეგ, პოლიციელებმა ის უნდა დაარედაქტირონ, შეასწორონ ნებისმიერი შეცდომა, შეაფასონ AI-ის მიერ გენერირებული ტექსტი მიკერძოებაზე ან დაამატონ მნიშვნელოვანი კონტექსტი. მაგრამ EFF-მა აღმოაჩინა, რომ ტექნოლოგია „როგორც ჩანს, შექმნილია იმისთვის, რომ ხელი შეუშალოს აუდიტის, გამჭვირვალობისა და ანგარიშვალდებულების ნებისმიერ მცდელობას“. პოლიციელები ვალდებულები არ არიან, გაამჟღავნონ AI-ის გამოყენების ფაქტი და Draft One არ ინახავს მონახაზებს ან ჩანაწერს იმის შესახებ, თუ ანგარიშის რომელი ნაწილებია AI-ის მიერ გენერირებული. დეპარტამენტები ასევე არ ინახავენ მონახაზების სხვადასხვა ვერსიას, რაც ართულებს იმის შეფასებას, თუ როგორ შეიძლება შედარდეს AI ანგარიშის ერთი ვერსია მეორეს. ეს კი საზოგადოებას ართმევს საშუალებას, დაადგინოს, არის თუ არა ტექნოლოგია უსარგებლო. 

ამჟამად ძნელია იმის ცოდნა, არედაქტირებენ თუ არა პოლიციელები ანგარიშებს, თუ „რეფლექსურად, დაუფიქრებლად აწერენ ხელს მონახაზებს, რათა რაც შეიძლება სწრაფად გადავიდნენ შემდეგ საქმეზე“, — აცხადებს EFF. ეს განსაკუთრებით შემაშფოთებელია, რადგან Axon-მა, სულ მცირე, ერთ პოლიციის დეპარტამენტს გაუმხილა, რომ „უკვე იყო შემთხვევა, როდესაც ინჟინრებმა აღმოაჩინეს ხარვეზი, რომელმაც ოფიცრებს, სულ მცირე, სამ შემთხვევაში, საშუალება მისცა, გვერდი აეარათ „დამცავი მექანიზმებისთვის“, რომლებიც, თითქოსდა, ხელს უშლის ოფიცრებს, AI-გენერირებული ანგარიშები წაკითხვის გარეშე წარადგინონ“. 

AI ინსტრუმენტმა, ასევე, შესაძლოა, „გადააჭარბოს თავის უფლებამოსილებას აუდიოს ინტერპრეტაციისას“, არასწორად გაიგოს ჟარგონი ან დაამატოს კონტექსტი, რომელსაც ადგილი არ ჰქონია. EFF-ის თქმით, „მთავარი საზრუნავი“ ისაა, რომ AI ანგარიშებმა შეიძლება პოლიციელებს „კვამლის ფარდა“ შეუქმნან, რაც მათ საშუალებას მისცემს, თავი აარიდონ პასუხისმგებლობას ფიცის ქვეშ ტყუილის თქმისთვის და ანგარიშებში არსებული ნებისმიერი „მიკერძოებული ენა, უზუსტობა, არასწორი ინტერპრეტაცია თუ სიცრუე“ ხელოვნურ ინტელექტს დააბრალონ. „არ არსებობს ჩანაწერი, რომელიც აჩვენებს, დამნაშავე ოფიცერი იყო თუ AI“, — აცხადებს EFF. „ეს უკიდურესად ართულებს, თუ შეუძლებელს არა, იმის შეფასებას, თუ როგორ მოქმედებს სისტემა მართლმსაჯულების შედეგებზე დროთა განმავლობაში.“ 

EFF-ის თანახმად, Draft One „როგორც ჩანს, მიზანმიმართულად არის შექმნილი იმისთვის, რომ თავიდან აირიდოს აუდიტი, რომელიც საზოგადოების წინაშე რაიმე სახის ანგარიშვალდებულებას უზრუნველყოფდა“. ერთ-ერთ ვიდეოში, რომელიც EFF-მა განიხილა, Axon-ის პროდუქტის მენეჯერი მონახაზების გაქრობას, როგორც ფუნქციას, ისე აქებს და განმარტავს: „ჩვენ არ ვინახავთ თავდაპირველ მონახაზს და ეს დიზაინის ნაწილია, რადგან ბოლო რამ, რაც გვინდა, არის ის, რომ ჩვენს კლიენტებსა და საადვოკატო ოფისებს ინფორმაციის გამჟღავნებასთან დაკავშირებით დამატებითი თავის ტკივილი შევუქმნათ“. 

EFF-მა ეს განმარტა, როგორც იმის აღიარება, რომ „ბოლო რამ“, რაც Axon-ს სურს, „არის ის, რომ პოლიციელებს მოუწიოთ ამ მონაცემების ვინმესთვის (მაგალითად, მოსამართლის, დაცვის ადვოკატის ან სამოქალაქო თავისუფლებების არაკომერციული ორგანიზაციისთვის) მიწოდება“. 

Axon-ის წარმომადგენელმა Ars-ს შემდეგი განცხადება მიაწოდა: „Draft One ეხმარება ოფიცრებს, შეადგინონ ანგარიშის თავდაპირველი ნარატივი მკაცრად სამხრე კამერის აუდიოჩანაწერის ტრანსკრიპტიდან და მოიცავს რიგ დამცავ მექანიზმებს, მათ შორის, ადამიანის სავალდებულო გადაწყვეტილებას კრიტიკულ მომენტებში და მისი გამოყენების გამჭვირვალობას. ოფიცრები სრულად რჩებიან პასუხისმგებელნი შინაარსზე. ყოველი ანგარიში უნდა დარედაქტირდეს, გადაიხედოს და დამტკიცდეს ადამიანის მიერ, რაც უზრუნველყოფს როგორც სიზუსტეს, ისე ანგარიშვალდებულებას. Draft One შეიქმნა იმისთვის, რომ ასახოს არსებული საპოლიციო ნარატივის პროცესი — სადაც, როგორც დიდი ხნის სტანდარტია, ინახება და ხელმისაწვდომია მხოლოდ საბოლოო, დამტკიცებული ანგარიში, და არა შუალედური რედაქტირებები, დამატებები ან წაშლები. 

პირველივე დღიდან, როდესაც Draft One გამოიყენება, მისი გამოყენება ინახება Axon Evidence-ის შეუცვლელ ციფრულ აუდიტის კვალში, რომლის მოძიებაც სააგენტოებს ნებისმიერ ანგარიშზე შეუძლიათ. ჩვენ ცოტა ხნის წინ დავამატეთ სააგენტოებისთვის Draft One-ის გამოყენების ანგარიშების ექსპორტის შესაძლებლობა, რაც კიდევ უფრო უწყობს ხელს გამჭვირვალობასა და ზედამხედველობას. Axon ერთგულია პოლიციის სააგენტოებთან, პროკურორებთან, დაცვის ადვოკატებთან, საზოგადოების დამცველებთან და სხვა დაინტერესებულ მხარეებთან უწყვეტი თანამშრომლობისა.

პოლიციამ არ უნდა გამოიყენოს AI

EFF-ის უფროსმა პოლიტიკის ანალიტიკოსმა, მეთიუ გუარილიამ, Ars-ს განუცხადა, რომ EFF-მა სწრაფად შეიმუშავა გეგმა ახალი ტექნოლოგიის გავრცელების მონიტორინგისთვის. გაზაფხულზე, EFF-მა საჯარო ინფორმაციის გამოთხოვის მოთხოვნები გაუგზავნა ათობით პოლიციის დეპარტამენტს, რომლებიც, სავარაუდოდ, Draft One-ს იყენებდნენ. 

პრესრელიზში EFF-მა დაადასტურა, რომ გამოძიებამ „აღმოაჩინა, რომ პროდუქტი მწირ ზედამხედველობის ფუნქციებს გვთავაზობს“, მათ შორის, პრაქტიკულად უსარგებლო „აუდიტის ჟურნალის“ ფუნქციას. ალბათ, ყველაზე თვალსაჩინო ის არის, რომ Axon-ის ინსტრუმენტი არ აძლევს დეპარტამენტებს უფლებას, „მოახდინონ ყველა იმ პოლიციელის სიის ექსპორტი, რომლებმაც Draft One გამოიყენეს“, ან თუნდაც „Draft One-ის მიერ შექმნილი ყველა ანგარიშის სიის ექსპორტი, თუ დეპარტამენტს თავისი პროცესი მორგებული არ აქვს“. ეს კი „თითქმის შეუძლებელს ხდის თუნდაც ყველაზე საბაზისო სტატისტიკური ანალიზის ჩატარებას: რამდენი ოფიცერი იყენებს ტექნოლოგიას და რამდენად ხშირად“, — აცხადებს EFF. 

EFF იმედოვნებს, რომ მისი ანგარიში შეზღუდავს საეჭვო AI-გენერირებულ საპოლიციო ანგარიშებზე მზარდ დამოკიდებულებას. 

კალიფორნიაში, სადაც ზოგიერთი პოლიციელი დიდი ხანია იყენებს Draft One-ს, წარდგენილია კანონპროექტი, რომელიც მოითხოვს იმის გამჟღავნებას, თუ ანგარიშის რომელი ნაწილებია AI-გენერირებული. ეს კანონი, თუ მიიღეს, ასევე „მოითხოვს შექმნილი პირველი მონახაზის შენახვას იმდენი ხნით, რამდენიც საბოლოო ანგარიში ინახება“, რაც, გუარილიას თქმით, Draft One-ს, მისი ამჟამინდელი დიზაინით, ავტომატურად უკანონოს გახდის. 

გუარილიამ Ars-ს განუცხადა, რომ EFF ესაუბრა საზოგადოებრივ დამცველებს, რომლებიც შიშობენ, თუ როგორ იმოქმედებს AI-გენერირებული ანგარიშების გავრცელება „ჯვარედინ დაკითხვაზე“, რადგან ეს, შესაძლოა, პოლიციელებს მარტივ „განტევების ვაცს“ მისცემს, როდესაც მათ ფიცის ქვეშ ტყუილში დაადანაშაულებენ. ამ პრობლემის სრულად თავიდან ასაცილებლად, კინგის ოლქის (ვაშინგტონი) პროკურატურამ AI საპოლიციო ანგარიშები აკრძალა და აღნიშნა, რომ „არსებობს ლეგიტიმური შეშფოთება ბაზარზე არსებული ზოგიერთი პროდუქტის შესახებ“. გუარილიას თქმით, პროკურატურის ერთ-ერთი მთავარი საზრუნავი იყო ის, რომ AI ინსტრუმენტის გამოყენებამ შეიძლება „საქმეები საფრთხის ქვეშ დააყენოს“. EFF ახლა მოუწოდებს „სხვა პროკურორებს, მიბაძონ ამ მაგალითს და მოითხოვონ, რომ პოლიციამ მათ იურისდიქციაში არ გამოიყენოს ეს ახალი, ანგარიშვალდებულებას მოკლებული და განზრახ გაუმჭვირვალე AI პროდუქტი“. 

„პოლიციამ არ უნდა გამოიყენოს AI საპოლიციო ანგარიშების დასაწერად“, — თქვა გუარილიამ. „ჯერჯერობით ძალიან ბევრი პასუხგაუცემელი კითხვაა იმის შესახებ, თუ როგორ თარგმნის AI სიტუაციების აუდიოჩანაწერებს, რეალურად დაარედაქტირებენ თუ არა პოლიციელები ამ მონახაზებს და შეძლებს თუ არა ოდესმე საზოგადოება იმის გარჩევას, რა დაიწერა ადამიანის მიერ და რა — კომპიუტერის მიერ. ეს ყველაფერი მანამ, სანამ მივალთ კითხვამდე, თუ როგორ შეიძლება ამ ანგარიშებმა პრობლემები შექმნას ისედაც უსამართლო და გაუმჭვირვალე სისხლის სამართლის სისტემაში.“ 

 ITNEWS-ის მეგობარი ვებ-გვერდია ITJOBS.GE. ITJOBS.GE-ზე ორგანიზაციებს და ფიზიკურ პირებს, აქვთ საშუალება განათავსონ როგორც ვაკანსიები, ტრენინგები და ივენთები ასევე კონკრეტული Tech დავალებები, რისთვისაც ეძებენ დეველოპერებს, დიზაინერებს, სეო სპეციალისტებს და ა.შ. ITJOBS.GE - იპოვე დასაქმების საუკეთესო შესაძლებლობები ან გამოაქვეყნე ვაკანსია / დავალება და მიაწვდინე ხმა სასურველ აუდიტორიას.