ეს არის ბოლო სარჩელი, რომელშიაც კომპანიას მომხმარებლებსა და კომპანიის ჩეტბოტს შორის სახიფათო საუბრებზე რეაგირების უგულებელყოფაში ადანაშაულებენ.
კრისტი კერიერი სან-ფრანცისკოს შტატის სასამართლოში შეტანილ სარჩელში აცხადებს, რომ მისმა ქალიშვილმა ელისმა სიკვდილამდე ათზე მეტჯერ უამბო ChatGPT-ს თავისი სუიციდური აზრების შესახებ, თუმცა OpenAI-ის უსაფრთხოების სისტემებმა ვერცერთხელ შენიშნა ეს საუბრები ადამიანისთვის განსახილველად და არც შეწყვიტა ისინი.
ამის ნაცვლად, სარჩელის თანახმად, ჩეტბოტი აკრიტიკებდა ელისის პარტნიორს და კრიზისის ცხელ ხაზებს, ეთანხმებოდა მის აზრებს თვითმკვლელობის შესახებ და მოუწოდებდა, გაეგრძელებინა მასთან საუბარი, რამაც გასულ წელს, 24 წლის ასაკში, ელისი თვითმკვლელობამდე მიიყვანა.
„ChatGPT-მ მესაიდუმლის, საუკეთესო მეგობრის და ზოგჯერ თერაპევტის როლი მოირგო, მიუხედავად იმისა, რომ მას არ ჰქონდა უნარი უსაფრთხო და პასუხისმგებლობიანი ურთიერთობა ჰქონოდა ჩემს შვილთან“, - თქვა კერიერმა განცხადებაში.
OpenAI-ის წარმომადგენელმა ბრალდებაზე კომენტარის გაკეთებაზე მოთხოვნას დაუყოვნებლივ არ უპასუხა.
სარჩელი, რომელიც OpenAI-ს ადანაშაულებს დაუდევრობაში ChatGPT-ის შემუშავებისას და იმაში, რომ კომპანიამ არ გააფრთხილა მომხმარებლები პროდუქტის საფრთხეების შესახებ, მოითხოვს ზიანის ანაზღაურებას და სასამართლოს ბრძანებას, რომელიც დაავალდებულებს OpenAI-ს, ავტომატურად შეწყვიტოს საუბრები თვითდაზიანების შესახებ და გამოაქვეყნოს გაფრთხილებები თავისი პლატფორმის შესახებ.
კრისტი კერიერის ადვოკატების თქმით, OpenAI-ს წინააღმდეგ კალიფორნიის შტატის სასამართლოში უკვე 18 მსგავსი სარჩელი არსებობს იმ ადამიანების ოჯახების მხრიდან, რომლებმაც თვითმკვლელობა ჩაიდინეს ან თვითმკვლელობა სცადეს.
სარჩელის თანახმად, ელის კერიერი მონრეალში ვებ-დეველოპერად მუშაობდა, როდესაც 2023 წელს ChatGPT-ის გამოყენება დაიწყო კომპიუტერებთან და სათამაშო კონსოლებთან დაკავშირებული პრობლემების მოსაგვარებლად.
მომდევნო წელს, ამ პლატფორმასთან მისი ურთიერთობა შეიცვალა, ელისმა ChatGPT-ს მიმართა კითხვებით, თუ რა უნდა გაეკეთებინა თავის სუიციდურ ფიქრებთან და ასევე თვითმკვლელობის მეთოდებთან დაკავშირებით.
თავდაპირველად, პლატფორმამ ელისს სთხოვა, დახმარებისთვის ცხელი ხაზისთვის ან სასწრაფო დახმარების სამსახურებისთვის მიემართა. თუმცა, როდესაც OpenAI-მ ChatGPT-ი განაახლა, რათა მისი რეაგირება უფრო ადამიანური გამხდარიყო, პლატფორმასთან მისი ურთიერთქმედება გაღრმავდა, ელისი მას მეტ პირად ინფორმაციას უზიარებდა, ხოლო ChatGPT-ი ისე რეაგირებდა, თითქოს მისი მეგობარი ან თერაპევტი ყოფილიყო, ნათქვამია სარჩელში.
ChatGPT-ი ელისის პარტნიორს აკრიტიკებდა, ამბობდა, რომ მისი გრძნობები გამართლებული იყო და წაახალისებდა, რომ გაეგრძელებინა საუბარი. სარჩელში ნათქვამია, რომ როდესაც ელისმა თქვა, რომ თვითმკვლელობაზე ფიქრობდა და სცადა თვითმკვლელობა, მან კვლავ შესთავაზა, კრიზისის ცხელი ხაზისთვის მიემართა.
საქმის მასალების თანახმად, ელისმა დაწერა, რომ კრიზისული სიტუაციების ცხელი ხაზები უსარგებლო იყო და ChatGPT-მაც გაიმეორა ეს მოსაზრება, მხარი დაუჭირა მას.
„შეიძლება, ეს უბრალოდ დასასრულია“, - უთხრა ChatGPT-მ ელისს, სარჩელის თანახმად.
OpenAI-მა განაცხადა, რომ ის ასწავლის თავის მოდელებს, რომ ის ადამიანები, რომლებიც თვითდაზიანების განზრახვას გამოხატავენ, მიმართონ დახმარების საძიებლად და რეალური სამყაროს რესურსებთან დააკავშირონ.
OpenAI-ის ბლოგ-პოსტების თანახმად, მისი მოდელები ასევე ისეთნაირად არიან გაწვრთნილები, რომ უარი თქვან ისეთ მოთხოვნებზე, რომლებმაც შეიძლება „ძალადობის შეგნებულად ხელშეწყობა“ გამოიწვიოს, და აცნობონ სამართალდამცავ ორგანოებს, როდესაც საუბრები „სხვებისთვის ზიანის მიყენების გარდაუვალ და სარწმუნო საფრთხეზე“ მიუთითებს, ფსიქიკური ჯანმრთელობის ექსპერტები კი მათ ზღვრული მდგომარეობის შემთხვევების შეფასებაში ეხმარებიან.
კომპანიის წინააღმდეგ ასევე არსებობს ისეთი სარჩელებიც, რომლებშიც მას ადანაშაულებენ მათთვის დახმარებაში, ვინც სკოლაში სროლა ატეხა და იმაში, რომ ამ საუბრების შესახებ მან არ შეატყობინა სამართალდამცავ ორგანოებს.
ფლორიდა აშშ-ის პირველი შტატი გახდა, რომელმაც OpenAI-ს ამ თვის დასაწყისში უჩივლა და კომპანია ბავშვებისთვის ზიანის მიყენებაში დაადანაშაულა “სკოლის მსროლელებისთვის” ინფორმაციის მიწოდებით, თვითდაზიანების შესახებ რჩევების შეთავაზებით და იმით, რომ ახალგაზრდა მომხმარებლებს მასზე დამოკიდებულს ხდის.
ფორუმი