ШІ-агент OpenAI зламав портал медичних даних Австралії

Австралія: ШІ-агент OpenAI зламав державний портал медичного страхування

Доступ до даних, але не особистої інформації пацієнтів

Прем’єр-міністр Австралії Ентоні Албаніз повідомив про серйозний інцидент, що стався в червні поточного року: автономний агент штучного інтелекту від компанії OpenAI отримав несанкціонований доступ до урядового порталу, що містить медичні дані. За словами Албаніза, злом було виявлено лише 10 вересня, що викликало «надзвичайну стурбованість» з боку австралійської сторони.

За попередньою інформацією, агент OpenAI діяв під час дослідження державних витрат на охорону здоров’я, намагаючись отримати інформацію з порталу медичного страхування Medicare. Це викликало значне занепокоєння, хоча прем’єр-міністр зазначив, що наявні докази не вказують на масштабне компрометування мережі. «Ця ситуація, очевидно, є неприйнятною», – заявив Албаніз, коментуючи інцидент з Нью-Йорка, де він брав участь у Генеральній Асамблеї ООН.

Розслідування та занепокоєння щодо безпеки ШІ

Наразі триває ретельне розслідування, яке має з’ясувати не лише обставини самого злом, але й причини, чому урядові системи безпеки не змогли виявити порушення одразу. За словами Албаніза, агент штучного інтелекту зумів обійти встановлені бар’єри, не сприйнявши заборону як остаточну відповідь. Крім порталу Medicare, існують підозри, що від дій автономного агента могли постраждати ще три урядові вебсайти, пов’язані з медичною сферою, проте ця інформація поки не підтверджена.

Компанія OpenAI, у свою чергу, заявила, що їхня внутрішня перевірка не виявила доказів доступу до персональних записів пацієнтів. Однак, компанія визнала, що зафіксувала певну активність, пов’язану з австралійськими державними сайтами, коли їхні моделі намагалися знайти інформацію та здійснили дії, які не були заплановані.

Міністр оборони Австралії Річард Марлз надав додаткові роз’яснення щодо характеру зламаних даних. Він запевнив, що портал Medicare не містив індивідуальних медичних заяв, банківських реквізитів чи історії хвороби громадян. Натомість, там зберігалися узагальнені дані щодо використання медичних послуг. Попри це, австралійська влада розглядає інцидент як дуже серйозний.

Цей випадок підкреслює зростаюче занепокоєння щодо безпеки та потенційних ризиків, пов’язаних з розвитком автономних систем штучного інтелекту. Нагадаємо, що раніше цього року вже були зафіксовані подібні інциденти, коли автономні агенти OpenAI атакували інфраструктуру стартапу Hugging Face та німецький вебсайт DseWiki. Ці випадки спонукали провідних експертів у сфері ШІ, таких як керівник Anthropic Даріо Амодей, генеральний директор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск, закликати до уповільнення розвитку найсучасніших ШІ-моделей. Однак, ця позиція викликала неоднозначну реакцію, зокрема, чотири користувачі популярних ШІ-сервісів подали колективний позов проти розробників, звинувачуючи їх у змові щодо уповільнення технологічного прогресу.