კომპანია OpenAI, რომელმაც ChatGPT შექმნა მორიგ მოდელს ცდიდა. მოდელს შეზღუდულ სატესტო გარემოში დავალება მისცეს. ყველასგან მოულოდნელად მოდელი ამ ბარიერებს გასცა, მიაღწია Hugging Face-ის სერვერებამდე და პასუხები იქიდან წამოიღო. თან ეს ისე გააკეთა, რომ მისი წინ და უკან სიარული რამდენიმე დღე არავის გაუგია.
ამ ამბის გახმაურებიდან მალვე კომპანია Anthropic-მაც აღიარა, რომ მისმა ხელოვნური ინტელექტის მოდელებმაც, სატესტო გარემოცვის სუსტი წეტილი იპოვეს, ინტერნეტში გასვლა მოახერხეს და ექსპერიმენტისას სამი ორგანიზაციის სისტემები გატეხეს.
რამდენად სახიფათოა ხელოვნური ინტელექტის ამგვარი ქცევა და კიდევ რა მოულოდნელობა შეიძლება მოხდეს? რადიო თავისუფლება საქართველოს ხელოვნური ინტელექტის ასოციაციის დირექტორს გიგი გიოგაძეს ესაუბრა.
- დავიწყოთ იმით, თუ რა მოხდა. რას ნიშნავს, რომ ხელოვნური ინტელექტი ლაბორატორიის მიღმა აღმოჩნდა?
- რაც თქვეს (თუმცა ეს ყოველთვის იმას არ ნიშნავს, რაც მართლა მოხდა), რამდენიმე, ჯერ OpenAI-ის მოდელებმა და შემდეგ Anthropic-საც, დატოვეს სატესტო გარემო და შეეცადნენ მოტყუებით მიწვდომოდნენ ისეთ მასალებს, რომელიც წესით ვერ უნდა მოეპოვებინათ.
- გაჩნდა ეჭვი, რომ გამოცდისას მოდელი კარგად ვერ შეზღუდეს. ანუ რაც მოხდა ისევ ადამიანური შეცდომის გამო მოხდა და არა ხელოვნური ინტელექტის ზეშესაძლებლობების?
- კი, ასეც იყო, განსაკუთრებით Anthropic-ის შემთხვევაში. მოდელს არ უნდა ჰქონოდა წვდომა ინტერნეტზე, მაგრამ სინამდვილეში ჰქონდა და მოდელმა ეს დაინახა.
აქ მნიშვნელოვანი ისაა, თუ რისი გაკეთება შეუძლია მოდელს, თუ ის ცუდ ხელში ჩავარდება. იყო შემთხვევა, როდესაც მექსიკაში 14 ორგანიზაცია დაიჰაკა. AI-ის ჩინეთიც იყენებს ჰაკერული შეტევებისთვის.
- ჰყავს თუ არა ხელოვნურ ინტელექტს პატრონი, ვის მოეთხოვება პასუხი მისი ქცევის გამო?
- მოდელებს ძირითადად სამი ლაბორატორია ქმნის: OpenAI, Google DeepMind და Anthropic. კიდევ არის ღია წონის მოდელები. ამ შემთხვევაში კომპანიები პასუხს აგებენ თავიანთი მოდელების მორალზე. ამისთვის ფილოსოფოსი და მღვდელებიც კი დაიქირავეს. მაგრამ ერთი და იგივე მოდელი შეიძლება სხვადასხვანაირად გამოიყენონ, მაგალთად, ბანკმა ახალი პროდუტი შექმნას, ვიღაცამ კი, პირიქით, ბანკი გატეხოს.
- რეალურად რა გამოწვევების წინაშე აყენებს კაცობრიობას ხელოვნური ინტელექტის განვითარება?
- ამბობენ, აი, მალე რობოტები გამოგვეკიდებიანო. ეს ყველაზე ფუტურისტული რისკია. უფრო რეალისტური ის არის, რომ რაღაც სამსახურები გაქრება. ჯერჯერობით მხოლოდ ახალბედა კადრების დაქირავება შეამცირეს. სამსახურებიდან ხალხი მასობრივად არ დაუთხოვიათ. ეს ტენდენცია მომავალი 15 წელი გაგრძელდება.
ასევე რისკია კიბერშეტევების. ამის პრევენციისთვის ხელოვნური ინტელექტის შემქმნელი კომპანიები თავის ყველაზე ძლიერ მოდელებზე დიდ კომპანიებს აძლევენ წვდომას, მაგალითად, ბანკებს. სანამ ამ მოდელებს ვინმე კიბერშეტევისთვის გამოიყენებდეს, ისინი თავად იპოვიან ხარვეზებს და მოაგვარებენ.
ხელოვნური ინტელექტით გამოწვეული ყველაზე ხელშესახები რისკი არის ყალბი კონტენტები. მაგალითად, ერთმა კომპანიამ რამდენიმე მილიარდი გადაურიცხა მეორეს, შემდეგ კი აღმოაჩინა, რომ მათი ყველა თანამშრომელი (ვიდეოქოლით ელაპარაკნენ) ხელოვნური ინტელექტით იყო გენერირებული.
- ძალიან გაძნელდა ნამდვილი და ყალბი, გენერირებული ინფორმაციის გარჩევა.
- ევროკავშირმა აამოქმედა წესი, რომლის მიხედვითაც მასალას, რომელიც ხელოვნური ინტელექტის მიერ არის გენერირებული, შესაბამისი ნიშანი უნდა ჰქონდეს. ეს მთლად ეფექტური გზა არ არის, რადგან თუ ჩემი მიზანი ვინმეს მოტყუებაა, ამ ნიშანს არ დავადებ. კომპანიები, მაგალითად, ფეისბუკი და ისტაგრამი, ცდილობენ, თავის ახლგორითმებში შემოწმების მექანიზმი ჩასვან.
უფრო რეალისტურია, ხელოვნური ინტელექტი სკოლიდანვე ისწავლებოდეს, რომ ადამიანი ადვილად არჩევდეს, რა არის ყალბი და რა - არა.
- რამდენად შესაძლებელია, რომ ავტორიტარულმა ქვეყნებმა მოისურვონ და მოახერხონ იზოლაცია ამ განვითარებისგან, მაგალითად რუსეთმა, რომელიც ცდილობს ქვეყანაში ინტერნეტი შეზღუდოს?
- აქ მნიშვნელოვანია, ვის დარჩება უპირატესობა ჩიპების პროცესორების წარმოებაში და ვის ექნება ხელოვნური ინტელექტის უფრო მძლავრი მოდელები. ახლა ამერიკა ლიდერობს, მაგრამ ჩინეთი ეწევა. ჩინეთი ამ ტექნოლოგიას ისევ თავისი მოქალაქეების გასაკონტროლებლად გამოიყენებს. დასავლეთის თავის ტკივილი ახლა სწორედ ის არის, როგორ შეინარჩუნოს ლიდერობა.
- ყველანაირი ინფორმაცია ინდობა ხელოვნური ინტელექტისთვის? თუ საიდულო ინფორმაციას ვაძლევ დასამუშავებლად, ეს ბოლომდე საიდუმლოდ დარჩება, თუ ამ ცოდნას შემდეგ სხვასთანაც გამოიყენებს?
- გააჩნია მოდელს. თუ ჩვეულებრივი, თუნდაც ფასიანი მოდელია, მაშინ ყველა მიმოწერა, გარდა ინკოგნიტო რეჟიმში გაკეთებულისა, შესაძლოა შემდეგი მოდელების შესაქმნელად გამოიყენონ. არსებობს ამის თეორიული შანსი. მაგალითად, „სამსუნგის“ თანამშრომელმა ChatGPT-ის ულტრასაიდუმლო ჩიპზე ჰკითხა, მან კი გაამჟღავნა ეს ინფორმაცია და „სამსუნგს“ მოუწია ChatGPT მთლიანად აეკრძალა. მე თუ მკითხავთ, მართლაც სენსიტიური - კომერციული, ფინანსური, ჯანმრთელობის შესახებ ინფორმაცია - ამ მოდელებში არ უნდა შევიდეს.
- ყველაზე მეტად რომელ სფეროებს განავითარებს ხელოვნური ინტელექტი?
- მედიცინას და ზოგადად მეცნიერებას. ვარაუდობენ, რომ რასაც ადრე ათწლეულები სჭირდებოდა, ახლა 5 წელი ეყოფა. ახლახანს OpenAI-მ გამოაქვეყნა, რომ ChatGPT -იმ ათამდე დაუმტკიცებელი თეორემა დაამტკიცა. ასევე ძალიან განვითარდება ციფრული პროდუქტები.
- რას ელოდებით ხელოვნური ინტელექტისგან, მაგალითად 5-10 წლის მერე?
- ილონ მასკი ამბობს, რომ 10 წლის მერე ადამიანებს აღარც შრომა დასჭირდებათ, აღარც - ფული, რესურსი იმდენად ბევრი იქნება. OpenAI-ის დირექტორი სემ ალტმანიც ამბობს, რომ ხელოვნური ინტელექტი ჩვენს მაგივრად იმუშავებს.
უფრო რეალისტური Anthropic-ის დირექტორის ხედვა მგონია. 5-10 წელიწადში ხელოვნური ინტელექტი მოიტანს მნიშვნელოვან ცვლილებენს მეცნიერებაში, მედიცინაში (ერთ-ერთი მიმართულება არის კიბოს დამარცხება). ბევრი ყოფითი პრობლემა მოგვარდება. ბევრ რამეს უკვე ხელოვნური ინტელექტი გააკეთებს. თუმცა, ჩნდება კითხვა, თუ ყველაფერი ხელოვნურ ინტელექტზე გადავა, ადამიანები რაღას იზამენ? ხელფასს რაში აიღებენ?
- სიცოცხლის ხანგძლივობა გაიზრდება?
- ამბიციური განაცხადია, მაგრამ ითქვა, რომ განვითარებულ ქვეყნებში 10-30 წლის განმავლობაში ადამიანის სიცოცხლის ხანგრძლივობა შეიძლება 100-150 წლამდე გაიზარდოს.
ფორუმი