Напередодні звільнення Сема Альтмана з посади гендиректора OpenAI кілька дослідників компанії надіслали раді директорів листа з попередженням про важливіше відкриття в галузі штучного інтелекту (ШІ), яке потенційно може загрожувати людству. Про це пише Reuters з посиланням на два обізнані джерела.
Ключові факти
- Цей лист став «останньою краплею» у довгому списку скарг ради директорів до Альтмана і зрештою спричинив його звільнення, кажуть співрозмовники агентства.
- Один із них розповів, що виконавчий директор Мира Мураті у розмові зі співробітниками згадувала про проєкт під назвою Q* (вимовляється як Q-Star), про який, ймовірно, йшлося в тому листі.
- Ще один співрозмовник зазначив, що проєкт Q* може стати проривом у пошуку надінтелекту, також відомого як загальний штучний інтелект (AGI). За його словами, проєкт має величезні обчислювальні ресурси і може вирішувати математичні завдання.
- Попри те, що задачі вирішуються лише на рівні початкової школи, це дало дослідникам дуже оптимістичні очікування щодо майбутнього успіху Q*, повідомив співрозмовник агентства.
Контекст
Дослідники наразі вважають математику – це крайньою межею розвитку генеративного ШІ. Наразі він добре вміє писати і перекладати, статистично передбачаючи наступне слово, проте відповіді на те саме питання можуть сильно відрізнятися. Але здатність займатися математикою (де є лише одна правильна відповідь) може свідчити, що у ШІ будуть ширші здібності до мислення, що нагадують людський інтелект.
На початку цього року Сем Альтман запропонував законодавцям США розглянути питання про видачу компаніям ліцензій на розробку потужного штучного інтелекту, подібного до того, що лежить в основі чат-бота його компанії. У середині березня компанія OpenAI представила четверту версію мовної моделі ChatGPT.
Після цього понад 1000 технологічних лідерів і дослідників підписали відкритого листа із закликом ввести шестимісячний мораторій на розробку нових систем, оскільки технології ШІ становлять «серйозні ризики для суспільства та людства». Через кілька днів 19 нинішніх і колишніх лідерів Асоціації з розвитку штучного інтелекту, академічного товариства з 40-річною історією випустили власного листа із попередженням про ризики, повʼязані з ШІ.
OpenAI протягом 17–22 листопада тричі змінила очільника компанії. Спершу рада директорів звільнила Сема Альтмана після чотирьох років його на посаді. Через два дні – Міру Мураті, яка до цього була технічною директоркою. Врешті 22 листопада – Еммета Шира, співзасновника Twitch. Офіційною причиною звільнення Альтмана стало те, що він «не завжди був відвертим у спілкуванні з радою директорів». Більше про це читайте в редакційному огляді Forbes.
