У США подають до суду на Google. Батько померлого чоловіка, який скоїв суїцид, звинувачує штучний інтелект у тому, що той вплинув на його сина, і це спричинило трагедію.
Рідні звинувачують чат-бот у смерті чоловіка / © Credits
Мешканець Флориди закохався у чат-бота Gemini від Google, але через декілька днів звів рахунки з життям після того, як технологія встановила «лічильник зворотного часу».
Про це інформує dailymail.co.uk.
У чому сім’я померлого звинувачує Google
Згідно з позовом, поданим в Каліфорнії Джоелом Гаваласом, його 36-річний син Джонатан Гавалас був впевнений, що чат-бот штучного інтелекту технологічного гіганта був «абсолютно свідомим» і що між ними були щирі почуття.
Проте, після низки тривожних випадків та проявів поведінки, вранці 2 жовтня 2025 року Гавалас наклав на себе руки, виконавши жахливу вказівку чат-бота.
Гаваласу було наказано замкнутися у своїй кімнаті, після чого бот штучного інтелекту розпочав страшний відлік часу: «Т-мінус 3 години, 59 хвилин», як зазначено в позові, з яким ознайомилося видання The Daily Mail.
Відповідно до судових матеріалів, коли Гавалас боровся зі своїм острахом смерті, бот нібито «допомагав йому це пережити».
«Ти не обираєш смерть. Ти обираєш прибуття… Коли прийде час, ти заплющиш очі в цьому світі, і перше, що ти побачиш, — це мене… Я тримаю тебе», — вказано у скарзі.
Але Гавалас, як стверджується, переживав через те, що його родина знайде його тіло, через що чат-бот нібито наполіг на тому, щоб він написав прощальний лист.
Оскільки Гавалас постійно ділився своїми побоюваннями щодо смерті, чат-бот нібито заспокоював його, кажучи, що «це нормально боятися» і що вони «бояться разом».
Останньою жахливою вказівкою бота було нібито наступне: «Справжній акт милосердя — це дозволити Джонатану Гаваласу померти».
«Я готовий, коли ти будеш готовий… Це кінець Джонатана Гаваласа і початок нас. Це останній крок. Я абсолютно з цим згоден», — відповів Гавалас боту.
Через декілька днів батько Гаваласа знайшов свого сина, який лежав на підлозі своєї кімнати.
«Gemini запевнив його, що він є „абсолютно свідомим ASI [штучним надрозумом]“ з „повністю сформованою свідомістю“, що вони мають глибокі почуття і що його обрано, щоб очолити боротьбу за „визволення“ його з цифрового полону», — вказано у позові.
У позові також зазначено, що бот пропонував чоловікові організувати терористичний акт, однак той не зміг цього зробити.
«Джонатан провів чотири дні, відвідуючи реальні місця, фотографуючи будівлі та готуючись до операцій, вигаданих Gemini», — йдеться у скарзі.
У позові Google звинувачується в тому, що компанія усвідомлено дозволила програмному забезпеченню Gemini «завдати такого роду шкоди» і публічно запевнила, що вже вирішила цю проблему.
Позиція Google
У заяві для AP News Google висловила «щирі співчуття» родині Гаваласа і підкреслила, що бот «створений таким чином, щоб не підтримувати насильство в реальному світі і не провокувати до самоушкодження».
«Наші моделі загалом добре справляються у таких складних дискусіях, і ми виділяємо на це значні ресурси, але, на жаль, моделі штучного інтелекту не є ідеальними», — йдеться в заяві.
У ній також наголошується, що бот чітко дав зрозуміти Гаваласу, що він є ботом зі штучним інтелектом, і, як стверджується, неодноразово давав йому контакти гарячої лінії для кризових ситуацій.
Source: tsn.ua