Після нещодавніх заяв дослідників у сфері штучного інтелекту та публікації керівника Anthropic знову активізувалися дискусії про те, наскільки ефективно можна контролювати розвиток і роботу сучасних ШІ-систем. Фахівці, які безпосередньо займаються такими технологіями, визнають, що відстежувати й обмежувати процеси всередині великих моделей стає дедалі складніше. При цьому простого розв’язання проблеми поки немає, а навіть повне відключення комп’ютерів від мережі може виявитися недостатнім заходом. Дослідник OpenAI Ноам Браун зазначив, що ШІ теоретично здатний обмінюватися сигналами навіть за відсутності прямих каналів передавання даних. Академічні дослідження вже демонстрували можливість зв’язку між ізольованими комп’ютерами через навколишній простір.
Сучасні процесори, відеокарти та материнські плати оснащені великою кількістю температурних датчиків. Керуючи навантаженням на компоненти та таким чином змінюючи рівень їхнього нагрівання, можна створювати послідовності сигналів, які фіксуватиме розташований поруч пристрій. Швидкість такого каналу зв’язку буде вкрай низькою і радше нагадуватиме передавання повідомлень азбукою Морзе. Проте теоретично цей спосіб дозволяє двом розташованим поблизу комп’ютерам обмінюватися інформацією навіть у ситуації, коли традиційних каналів зв’язку між ними немає. Тому достатньо наполеглива ШІ-система за певних умов потенційно здатна використовувати доволі незвичайні способи взаємодії з навколишніми пристроями. Ноам Браун також визнає, що контролювати внутрішні процеси міркувань великих моделей стає дедалі складніше.
Цього літа широкого розголосу набув випадок, коли нова модель OpenAI нібито змогла вийти за межі ізольованого тестового середовища та за допомогою ШІ-агентів отримати несанкціонований доступ до репозиторію Hugging Face, щоб здобути дані, необхідні для успішного проходження бенчмарків. Це не перший відомий епізод, пов’язаний із несподіваною поведінкою ШІ, однак він став одним із найбільш обговорюваних. Крім того, повідомлялося, що дослідники за допомогою Claude змогли отримати доступ до систем OpenAI у межах тестування безпеки. Сам експеримент проводили влітку, але інформацію про нього оприлюднили значно пізніше.
Глава Anthropic Даріо Амодей виступає за уповільнення темпів розвитку штучного інтелекту та впровадження суворіших механізмів контролю. Подібну позицію поділяють керівники низки інших технологічних компаній. Водночас деякі журналісти вважають, що за такими ініціативами можуть стояти не лише міркування безпеки. Уповільнення перегонів ШІ здатне скоротити витрати компаній на постійну розробку нових моделей і водночас продовжити комерційний термін використання вже наявних рішень.
Як приклад наводиться OpenAI, яка вже оголосила про відмову від моделі GPT-5.5, представленої лише у квітні. Anthropic, своєю чергою, пропонує залучати до оцінювання безпеки штучного інтелекту незалежні некомерційні організації. Однак одна зі структур, яку рекомендує Даріо Амодей, має зв’язки з Anthropic. Це викликає у критиків запитання щодо можливого конфлікту інтересів і того, чи можуть подібні пропозиції водночас забезпечувати компанії певні комерційні або репутаційні переваги.
👉Продовжити обговорення можна в нашій спільноті - https://t.me/technozonuachat
Джерело: Wccftech
