США, Велика Британія та низка інших країн 26 листопада оприлюднили першу міжнародну угоду про захист штучного інтелекту від шахраїв, пише Reuters.
Ключові факти
- Документ на 20 сторінок загалом підписали 18 країн, включно з Німеччиною, Італією, Чехією, Естонією, Польщею, Австралією, Чилі, Ізраїлем, Нігерією та Сінгапуром.
- Країни погодилися, що компанії, які розробляють і використовують ШІ, мають розробляти та впроваджувати його таким чином, щоб убезпечити клієнтів і широку громадськість від зловживань.
- Угода не має обов’язкової сили та містить переважно загальні рекомендації, зокрема, моніторинг систем ШІ на предмет зловживань, захист даних від підробки та перевірка постачальників програмного забезпечення.
- У документі йдеться про те, як захистити технологію ШІ від викрадення хакерами, а також містяться рекомендації, наприклад, випускати моделі тільки після тестування щодо безпеки.
- Водночас угода не торкається гострих питань щодо належного використання ШІ або способів збору даних, які живлять ці моделі, зазначає видання.
Контекст
Розвиток штучного інтелекту викликав низку занепокоєнь у світі. Йдеться, зокрема, про ризик, що ШІ може використовуватися для підриву демократії. Також є побоювання, що він призведе до сплеску шахрайства та руйнівного впливу на ринок праці тощо.
Навесні цього року понад 1000 технологічних лідерів і дослідників підписали відкритий лист із закликом ввести шестимісячний мораторій на розробку нових систем, оскільки технології ШІ становлять «серйозні ризики для суспільства та людства». За кілька днів 19 нинішніх і колишніх лідерів Асоціації з розвитку штучного інтелекту, академічного товариства з 40-річною історією, випустили власний лист із попередженням про ризики, повʼязані зі ШІ.
Також забили на сполох 350 технічних керівників і вчених, які займаються ШІ, наголосивши у спільній заяві, що технологія є таким самим великим ризиком, як пандемія та ядерна війна. Серед підписантів заяви – Сем Альтман, гендиректор OpenAI.
У своїй колонці засновник Microsoft Білл Ґейтс писав, що ризики, які несе штучний інтелект, реальні, але з ними можна впоратися.
За даними джерел Reuters, напередодні звільнення Сема Альтмана з посади гендиректора OpenAI кілька дослідників компанії надіслали раді директорів листа з попередженням про важливіше відкриття в галузі штучного інтелекту (ШІ), яке потенційно може загрожувати людству.
Європа випереджає США у питанні регулювання ШІ. Європейські законодавці вже працюють над правилами використання штучного інтелекту. Франція, Німеччина та Італія нещодавно досягли угоди щодо регулювання так званих базових моделей ШІ, які розроблені для отримання широкого діапазону результатів.
Адміністрація президента США Джо Байдена тисне на законодавців в питанні регулювання ШІ, але поляризований Конгрес наразі мало просунувся в цьому напрямку.
