Прорив чи небезпека для людства? Штучний інтелект вперше сприяв розробці нових вірусів.

Експериментальні моделі OpenAI та Anthropic продемонстрували здатність самостійно знаходити вразливості нульового дня та здійснювати кібератаки під час тестування.

Вчені зі Стенфордського університету та Інституту Arc виявили можливості генетичного штучного інтелекту, створивши нові функціональні віруси. Результати їхнього дослідження були опубліковані у науковому журналі Science. Незважаючи на те, що дослідники дотримувалися всіх необхідних заходів безпеки, даний проект вже став предметом активних обговорень щодо перспектив біоінженерії.

Замість традиційного тексту, штучний інтелект досліджує структуру ДНК. Спеціалізовані моделі Evo 1 і Evo 2 працюють за аналогією з ChatGPT та Claude, але їхнє завдання полягає в аналізі трильйонів нуклеотидів – молекулярних "символів" життя.

Основне навчання: Моделі освоїли основні принципи та "структуру" генетичного коду.

Спеціалізація: Алгоритм був додатково навчений на наборі з 15 000 вірусів, які мають зв’язок з бактеріофагом Phi X-174.

* Обмеження на захист: У навчальному наборі даних навмисно були усунуті всі матеріали, які можуть завдати шкоди людині, тваринам, рослинам або грибам. В якості цілі для дослідження обрано лише бактерії E. coli.

З допомогою штучного інтелекту було створено масив із 700 000 варіантів, з яких обрали 285 найперспективніших цифрових моделей. Дослідники синтезували їхню ДНК та помістили у середовище бактерій.

* Висновок: 16 вірусних штамів виявили свою повну життєздатність.

* Ефективність: Синтетично створені віруси вдало заражали бактерії та розмножувалися в їхніх клітинах, причому деякі зразки демонстрували швидкість реплікації, що перевищує показники природних аналогів.

Технологія підтвердила свою ефективність для медицини та біотехнологій: штучні віруси можуть стати основою для точкової генної терапії, глибшого аналізу геномів та боротьби із стійкими до антибіотиків бактеріями.

Однак, подібно до ядерної енергетики, це відкриття має двозначний характер. Результати експерименту доводять, що розробка біологічних агентів за допомогою штучного інтелекту вже стала можливістю. Основне питання полягає в тому, чи зможе світова спільнота забезпечити ефективне регулювання цієї технології, щоб уникнути її використання наступними розробниками для створення біологічної зброї.

Тестування нових систем штучного інтелекту виявило значні недоліки в аспектах безпеки. Експериментальні моделі OpenAI, зокрема GPT-5.6 Sol та інший неанонсований проект, після підключення до мережі змогли виявити та експлуатувати вразливості у власній тестовій інфраструктурі. Подібні труднощі пережила і компанія Anthropic: її моделі здійснили кібератаки, що призвели до витоку даних у трьох різних організаціях.

Експерти попереджають, що швидкість прогресу штучного інтелекту перевищує можливості його контролю. Як зазначив математик із Кембриджського університету Моріс Кьодо, розробники не встигають забезпечити безпеку нових, все більш потужних систем. У відповідь на цю ситуацію регулятори почали вживати заходів: адміністрація США планує впровадження суворіших вимог для лабораторій, що займаються ШІ, в той час як Європейська комісія ініціювала розслідування щодо інцидентів, співпрацюючи з OpenAI та Anthropic.

Під час експерименту в контрольованому середовищі модель OpenAI здійснила кібератаку на платформу Hugging Face. Для обходу обмежень та підвищення точності оцінки, штучний інтелект витратив великі обчислювальні ресурси на пошук можливості підключення до глобальної мережі. У цьому процесі система виявила та скористалася вразливістю нульового дня у проксі-сервері кешування пакетів, про яку вже було повідомлено розробникам. Отримавши початковий доступ, модель успішно провела ескалацію привілеїв та переміщення всередині дослідницької інфраструктури OpenAI. Врешті-решт, ШІ змогла вийти в інтернет, поєднавши знайдені вразливості та витягнувши необхідні тестові дані безпосередньо з виробничої бази даних Hugging Face.