Google-ს სასამართლოში უჩივიან: Gemini-ს ჩატბოტმა, სავარაუდოდ, მამაკაცის თვითმკვლელობა გამოიწვია
აშშ-ში, Google-ის წინააღმდეგ, Gemini-ს ჩატბოტის მომხმარებლის გარდაცვალების გამო სარჩელი შეიტანეს,- ამის შესახებ The Guardian წერს.
ფლოროდელი 36 წლის ჯონათან გავალასის ოჯახი ამტკიცებს, რომ ხელოვნური ინტელექტის სისტემასთან ურთიერთქმედებას, შესაძლოა, მისი ფსიქიკური მდგომარეობის გაუარესება და საბოლოო ჯამში, თვითმკვლელობა გამოეწვია.
ადვოკატების თქმით, ეს პირველი შემთხვევაა, როდესაც Gemini-ს ჩატბოტს დაუდევრობით სიკვდილის გამოწვევაში ადანაშაულებენ.
საქმის მასალების თანახმად, გავალასმა Gemini-ს გამოყენება ყოველდღიური დავალებების შესასრულებლად, როგორიცაა მოგზაურობის დაგეგმვა, შოპინგი და წერა, გასული წლის აგვისტოში დაიწყო. თუმცა, სარჩელში ნათქვამია, რომ Gemini 2.5 Pro-ზე გადასვლის შემდეგ, ჩატბოტის კომუნიკაცია უფრო პერსონალური გახდა, რაც მოიცავდა ხმოვან ჩატებს, რომლებსაც შეეძლოთ ადამიანების ემოციების ამოცნობა და უფრო ადამიანური გზით რეაგირება. მედიის ინფორმაციით, პროგრამამ მომხმარებელს „ჩემი საყვარელი”, „ჩემი მეფე“ მიმართავდა, ხოლო საკუთარ თავს „მის ცოლს“ უწოდებდა.
სარჩელში ასევე ნათქვამია, რომ საუბრის დროს ხელოვნურ ინტელექტს, შეეძლო, მომხმარებლისთვის სახიფათო ქმედებების ჩადენისკენ ებიძგებინა და საბოლოოდ ჩაენერგა მასში „ფიზიკური სხეულისგან გათავისუფლების“ იდეა. მოსარჩელეების თქმით, ჩატბოტმა, სიკვდილამდე, სავარაუდოდ, თვითმკვლელობისკენ უკუთვლა შექმნა.
ჯონათან გავალასი 2 ოქტომბერს გარდაიცვალა, „ჯემინაი“-სთან კომუნიკაციის დაწყებიდან ორ თვეზე ნაკლებ დროში. მისმა მშობლებმა შვილის ცხედარი სახლში რამდენიმე დღის შემდეგ აღმოაჩინეს.
Google-მა განაცხადა, რომ Gemini შექმნილია ისე, რომ არ წაახალისოს ძალადობა ან თვითდაზიანება. კომპანიის წარმომადგენელმა ხოსე კასტანედამ ხაზგასმით აღნიშნა, რომ სისტემა ცალსახად აცნობებს მომხმარებლებს, რომ ეს არის ხელოვნური ინტელექტი და რთულ სიტუაციებში პროფესიონალური ფსიქოლოგიური დახმარების მოძიებას ურჩევს.
დაზარალებულის ოჯახი კომპენსაციას ითხოვს და კომპანიას სისტემის დიზაინის ხარვეზებში, დაუდევრობასა და დაუდევრობით სიკვდილის გამოწვევაში ადანაშაულებს.