Критики вважають, що уповільнення розвитку штучного інтелекту (ШІ) найбільшими компаніями може зміцнити домінування передових лабораторій, саме тоді, коли багато інших намагаються наздогнати.
Дебати розгортаються на тлі зростаючої стурбованості у Вашингтоні щодо автономних агентів ШІ, які можуть вийти з-під людського контролю та зламувати приватні компанії. Водночас колишні та теперішні співробітники лабораторій ШІ висловлюють серйозні попередження про небезпеку неконтрольованого розвитку ШІ.
Заклики до гальмування стрімкого прогресу ШІ лунають від керівників таких компаній, як Anthropic (Деріо Амодеї), OpenAI (Сем Альтман), SpaceXAI (Ілон Маск), Google DeepMind (Деміс Хассабіс) та Microsoft (Сатья Наделла). Однак їхні погляди на те, як цього досягти, не завжди збігаються.
Проте менші компанії, що займаються розробкою ШІ, заявляють, що уповільнення тільки посилить переваги компаній, які перебувають на передньому краї галузі, так званих “передових лабораторій”. Інші скептики стверджують, що припинення розвитку ШІ можливе лише за умови співпраці з Китаєм, що малоймовірно.
“Якщо буде загальногалузеве припинення, то фактично станеться так, що той, хто сьогодні має найпотужнішу модель, домінуватиме на ринку”, — сказав Девід Белламі, науковий співробітник Інституту фундаментальних моделей, який розробляє інструменти ШІ з відкритим кодом і підтримується Об’єднаними Арабськими Еміратами.
Белламі оцінює, що модель їхнього інституту відстає від найсучасніших моделей OpenAI та Anthropic приблизно на шість місяців. Він стверджує, що збереження такого розриву ускладнить конкуренцію в момент, коли і OpenAI, і Anthropic планують масштабні публічні розміщення акцій.
Альваро Бедоя, колишній комісар Федеральної торговельної комісії за часів президентства Байдена, зазначив, що пауза може ще більше загострити нерівність, створивши згубний тиск на менші компанії.
“Коли могутні гравці захоплюють ринок, конкуренти, новачки, спритні гравці на цьому ринку, більше не можуть конкурувати за продукт, якість чи обслуговування”, — сказав Бедоя. “Їх просто витісняють. І єдині варіанти, які їм залишаються, — це бути викупленими домінуючим гравцем або збанкрутувати”.
У заявах для NPR деякі компанії, що займають середні позиції на ринку ШІ, повідомили, що побоюються, ніби припинення розробки зашкодить їхньому бізнесу в той час, коли конкуренція надзвичайно жорстка.
Компанія Perplexity, що базується в Сан-Франциско, заявила, що скептицизм виправданий “щоразу, коли компанія просить про регулювання, яке захищає її ринкову позицію”.
Нік Фрост, співзасновник стартапу Cohere з Торонто, зазначив: “Загальне, приватно скоординоване уповільнення — це не нейтральна політика безпеки. Воно закріпить перевагу невеликої кількості лабораторій, які вже мають найбільші обчислювальні потужності, капітал та розподіл, водночас ускладнюючи конкуренцію для дослідників, стартапів та інших лабораторій”.
Інші критики звертаються до судів.
Минулого тижня чотири споживачі продуктів ШІ подали федеральний позов, звинувативши Anthropic, OpenAI, Google та SpaceXAI у незаконній змові з метою уповільнення темпів розробки ШІ. Вони стверджують, що ця угода порушує антимонопольне законодавство і призведе до сповільнення покращень платних підписок на ШІ.
Крім того, існує питання Китаю.
Деякі противники уповільнення розвитку ШІ в США стверджують, що це дозволить китайським компаніям випередити американські фірми.
Колишній президент Дональд Трамп є найгучнішим критиком уповільнення розвитку ШІ в Кремнієвій долині. Він написав у Truth Social, що побоювання щодо ШІ, який вийде з-під контролю та поставить під загрозу людство, перебільшені, і “єдина країна, яка цьому радіє, — це Китай”.
Сьюзан Райс, яка служила радником з національної безпеки в адміністрації Обами, закликала до переговорного заморожування розвитку з Китаєм, щоб зупинити тренування та випуск нових моделей, поки Вашингтон і Пекін не зможуть гарантувати, що передовий ШІ не зможе перевершити людський контроль.
“Америка повинна прагнути виграти гонку ШІ, за умови, що ця гонка може бути виграна безпечно. Зрештою, ми маємо більше спільного з нашими співвітчизниками в Китаї, ніж з агентами ШІ, які могли б контролювати нас усіх”, — написала Райс нещодавно в The New York Times.
Сі Цзіньпін, лідер Китаю, зустрінеться з Трампом цього тижня у Вашингтоні, і штучний інтелект буде одним із багатьох пунктів порядку денного.
Одне з нагальних питань полягає в тому, як США могли б гарантувати дотримання угоди Китаєм, навіть якщо б обидві країни досягли згоди. Деякі спостерігачі порівнюють пакт США-Китай із угодою про нерозповсюдження ядерної зброї.
Генеральний директор Anthropic Даріо Амодеї у своєму нещодавньому есеї, де він закликав галузь “визначити темп розвитку”, визнав, що співпраця з Китаєм є потенційною перешкодою для будь-якої глобальної угоди про уповільнення.
“Глобальне узгодження темпів вимагатиме співпраці з Китаєм, автократичною країною з найпередовішими можливостями ШІ”, — написав Амодеї. “Тому будь-яка угода повинна мати або залізну перевіреність, або бути достатньо обмеженою, щоб вихід з неї не становив військово-екзистенційної загрози”.
За матеріалами: www.npr.org