Спеціаліст з безпеки OpenAI залишив свою посаду та закликав компанії, що працюють у сфері штучного інтелекту, вжити більш рішучих заходів - Новини Весь Харків.

Девід Робінсон, який очолював роботу з забезпечення прозорості в OpenAI, заявив про свій відхід з компанії в есе, опублікованому журналом The Atlantic. Це поповнює низку звільнень співробітників цієї та інших компаній, що розробляють ШІ, через побоювання щодо безпеки технології.

Робінсон висловив занепокоєння щодо недостатньої обережності компаній, що займаються розробкою штучного інтелекту, критикуючи їхній підхід до еволюції технологій. Він зазначив, що OpenAI, на його думку, досягла значних успіхів через метод проб і помилок, який самі розробники називають "ітеративним розгортанням". Однак, на його думку, такий підхід може призвести до регулярних збоїв, масштаби яких зростають разом із розвитком систем, попередив він.

Робінсон нагадав про інцидент із Hugging Face, коли автономна система ШІ-агентів OpenAI проникла в її виробничу інфраструктуру. Пол Крістіано, який нещодавно увійшов до ради директорів OpenAI, також зазначав, що стрімке прискорення можливостей ШІ може призвести до незворотної втрати контролю в найближчому майбутньому.

Він вважає, що підприємства, що працюють у сфері штучного інтелекту, повинні активніше використовувати знання та досвід у сфері безпеки, які вже накопичені в інших секторах. Крім того, для розробки систем, які будуть істотно кращими за ті, що вже є, потрібні нові наукові підходи, щоб забезпечити їх здатність автономно приймати безпечні рішення.

Він заявив, що з огляду на сьогоднішні ризики передові ШІ-лабораторії повинні працювати за принципом АЕС або завантажених аеропортів -- з багаторівневим резервуванням і ретельним плануванням, "щоб випадкова й неминуча людська помилка не відкрила двері до катастрофи".