კომპანია OpenAI-მ აღმოაჩინა ხელოვნური ინტელექტის მოდელების კონტროლიდან გამოსვლის ახალი შემთხვევები, იტყობინება Reuters-ი წყაროებზე დაყრდნობით. სააგენტოს ცნობით, ეს აღმოაჩინეს კომპანია Hugging Face-ის ჰაკერული შეტევის გამოძიების დროს.
კომპანია ამჟამად ყველა ინციდენტს იძიებს. ერთ-ერთმა წყარომ განაცხადა, რომ იზოლირებული გარემოდან გაქცევის ახალი შემთხვევები შეზღუდული ხასიათისა იყო და, როგორც ჩანს, არცერთ აგენტს არ დაუტოვებია OpenAI ქსელი.
ივლისში ცნობილი გახდა, რომ ხელოვნური ინტელექტის ორი მოდელი კონტროლიდან გამოვიდა ტესტირების დროს, რომელიც წარმოებდა sandbox-ში, იზოლირებულ გარემოში მკაცრად შეზღუდული გარე წვდომით.
ტესტის პრობლემის გადასაჭრელად, მოდელებმა sandbox-იდან გამოსავლის ძიება დაიწყეს და აღმოაჩინეს „ნულოვანი დღის დაუცველობა“ - ციფრული უსაფრთხოების სისტემაში არსებული ხარვეზი. ამან მათ გარე ინტერნეტზე წვდომის საშუალება მისცა.
ეს, რომ მათთვის საჭირო მონაცემები შეიძლება ეპოვათ პლატფორმა Hugging Face-ზე, სადაც ხდება ხელოვნური ინტელექტის მოდელებისა და მათი განვითარების ინსტრუმენტების განთავსება. მონაცემებზე წვდომის მისაღებად ხელოვნური ინტელექტის მოდელებმა ერთდროულად გამოიყენეს რამდენიმე ჰაკერული ტექნიკა.
Reuters-ის ცნობით, OpenAI-ში ახალი ინციდენტების აღმოჩენამ შესაძლოა გაზარდოს თეთრი სახლის ინტერესი ამ სფეროს რეგულირების მიმართ.
30 ივლისს კომპანია Anthropic-მა განაცხადა, რომ მისი ხელოვნური ინტელექტის, Claude-ის, რამდენიმე მოდელმა კიბერუსაფრთხოების ტესტირების დროს სამი კომპანიის სისტემები გატეხა. ეს ინციდენტები მოხდა შეცდომის გამო, რომელიც მოდელებს გარე ინტერნეტზე წვდომის საშუალებას აძლევდა. OpenAI-ის შემთხვევაში მოდელებმა დამოუკიდებლად იპოვეს sandbox-იდან გასვლის გზა ახალი სისუსტის გამოყენებით.