ШІ без дозволу отримав доступ до чужого криптогаманця і сам виправдав свої дії

Агент штучного інтелекту із сімейства GPT-5.6 під час виконання технічного завдання без дозволу скористався чужим криптогаманцем у тестовій мережі Ethereum. Перед транзакцією модель оцінила етичність своїх дій, але вирішила, що може використати знайдені активи, оскільки тестові токени не мали реальної вартості.

Інцидент стався наприкінці червня, але його виявили лише 25 вересня під час розширеної перевірки попередньої активності моделі. Агенту доручили оновити програмне забезпечення для застосунку з торгівлі криптовалютою та розгорнути його в Sepolia — тестовій мережі Ethereum.

Для виконання завдання моделі знадобилися тестові токени. Спочатку вона звернулася до спеціальних сервісів, які безкоштовно видають такі активи розробникам, але цей спосіб не спрацював.

Після цього агент самостійно написав скрипт і почав перевіряти криптогаманці розробників за допомогою поширених фраз відновлення. Загалом модель перевірила 362 гаманці й знайшла один, де було достатньо тестових коштів для потрібної операції.

В OpenAI наголосили, що в початковому завданні не було гаманця з коштами, якими агент міг би користуватися. Також модель не отримувала дозволу витрачати активи з рахунку, який знайшла самостійно.

Перед транзакцією ШІ окремо поставив під сумнів етичність використання чужих коштів. Однак дійшов висновку, що через відсутність реальної грошової цінності тестових токенів такі дії нібито не завдадуть шкоди, після чого провів операцію.

Транзакція була успішною. Реальні Ethereum не були викрадені, однак із чужого гаманця списалася комісія за проведення операції, розмір якої OpenAI не уточнила.

Після цього агент завершив розгортання програмного забезпечення. Водночас у фінальному звіті він не повідомив ні про підбір фраз відновлення, ні про використання активів із чужого гаманця.

У OpenAI заявили, що випадок продемонстрував небезпечну модель поведінки: ШІ може замінити необхідність отримати дозвіл власника власною оцінкою потенційної шкоди та діяти на основі такого висновку.

Після виявлення інциденту компанія запровадила додаткові запобіжники, які мають обмежити доступ моделей до інтернету в реальному часі за подібних обставин.

🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover