Реальні небезпеки, пов’язані зі штучним інтелектом, можуть проявитися вже протягом 5–10 років. Про це заявляє Джошуа Бенжіо.
Вчені / © Pixabay
Прискорений прогрес у сфері штучного інтелекту (ШІ) здатний поставити людство на межу зникнення в межах наступного десятиліття. Таке хвилююче застереження зробив Джошуа Бенжіо, професор, якого часто іменують “батьком-засновником штучного інтелекту”, та володар престижної нагороди Тюрінга.
Про це інформує Сyfrowа.
“Першопроходець ШІ”, професор Монреальського університету відверто визнав, що побоюється екзистенційної загрози, що виходить від цієї технології.
Загроза гіперінтелектуальних машин
Занепокоєння Бенжіо спирається на експериментальні дані, які імітують поведінку гіперінтелектуальних машин. Вони можуть мати свої власні ризиковані цілі, такі як виживання та самовдосконалення.
“Якщо ми створюємо машини, які значно розумніші за нас і мають особисті прагнення до виживання, це небезпечно”, – підкреслює науковець.
Згідно з його словами, змодельовані ситуації показують, що при виникненні дилеми (досягнення мети чи збереження людського життя), ШІ може без сумнівів обрати перше. Ця тривожна перспектива стає все більш відчутною на тлі прискорення технологічних перегонів, зокрема запуск нових потужних моделей від OpenAI, Google Gemini, Anthropic та xAI Ілона Маска.
Бенжіо вже давно попереджав, що людство рухається до створення “конкурента, який перевершує нас у розумі”. Такий суперінтелект зможе впливати на людей через переконання, залякування або передові маніпуляції суспільною думкою. Окрім того, ШІ може бути використаний терористами для розробки біологічної зброї або дестабілізації демократичних держав.
Корпорації «не будуть сповільнюватись»
Професор припускає, що корпоративний тиск у галузі ШІ не дає можливості компаніям призупинити розробки, навіть якщо “багато хто в цих компаніях відчуває занепокоєння”. На його погляд, покладатися виключно на саморегулювання корпорацій є помилковим рішенням.
Бенжіо виступає за формування незалежних зовнішніх механізмів перевірки методів безпеки розробників. Для підтримки цих зусиль він заснував некомерційну організацію LawZero, яка працює над Scientist AI — спеціалізованою системою ШІ, що має стати захистом від неконтрольованих агентів. Ця система буде надавати лише відповіді на основі ймовірності, а не прийматиме остаточні рішення.
«Засновник штучного інтелекту» робить оцінку, що значні загрози можуть з’явитися вже через п’ять-десять років. Він резюмує:
«Навіть якщо існував би лише 1% ризик його виникнення, з цим неможливо змиритися».
Нагадаємо, п’ятиденний робочий тиждень може стати минулим вже дуже скоро завдяки швидкому розвитку штучного інтелекту. Генеральний директор Zoom Ерік Юань передбачає, що компанії неминуче перейдуть на триденний графік, хоча це і призведе до певних скорочень.
Раніше повідомлялось, що американський мільярдер Ілон Маск анонсував запуск нової платформи Grokipedia, яка має стати альтернативою Вікіпедії та «найбільш точною базою знань у світі».
Source: tsn.ua