Консультант NASA Пол Саттер у Києві розповідає про магію штучного інтелекту.

У середині червня у Головній астрономічній обсерваторії НАН України та Києво-Могилянській академії американський космолог Пол Саттер провів лекції, присвячені впливу штучного інтелекту на сучасну науку. Він також запропонував дослідити принципи, які використовувалися в алхімічній практиці чотирнадцятого століття, для ефективної роботи з новими технологіями.

Наука на порозі невідомого

Сучасні великі мовні моделі на кшталт ChatGPT, Claude або Gemini, здатні скласти кваліфікаційний іспит аспіранта з фізики на 95 %. Ті самі запитання, над якими місяцями бʼються молоді науковці, алгоритм розв'язує за хвилини. І це змушує задуматися над тим, що буде далі, якщо машина вже зараз на рівні початківця-дослідника.

Серед учених немає єдиної відповіді. Одні переконані, що через десять років наука обходитиметься без людей взагалі. Уже зараз існують агентні системи, здатні сформулювати гіпотезу, проаналізувати дані, написати код для аналізу, підготувати статтю і навіть організувати її рецензування іншими агентами. Від гіпотези -- до готової статті за п'ятнадцять хвилин. Правда, ці статті поки що не вражають якістю, але прихильники підходу переконані, що за п'ять-десять років усе зміниться.

Інші науковці займають абсолютно іншу точку зору і категорично відмовляються від взаємодії з мовними моделями, забороняючи їх використання навіть у рамках своїх дослідницьких колективів.

Космолог Пол Саттер з Університету Джона Гопкінса, який також виконує роль зовнішнього консультанта в програмі NASA, що займається інноваційними перспективними концепціями, вже протягом року разом зі своєю командою вивчає вплив генеративного штучного інтелекту на наукову діяльність. Пол визнає, що коли дебати про те, чи може ШІ врятувати людство або, навпаки, призвести до його загибелі, стають надто напруженими, йому допомагає погляд космолога. Він підходить до ситуації з відстані, адже з далека будь-яка проблема виглядає менш серйозною.

Саме з цього ракурсу він висловив найпростіше можливе спостереження: штучний інтелект є потужною системою, яку ми ще не повністю усвідомлюємо. Потужність її полягає в тому, що вона вже змінює культуру, наукові дослідження та наше повсякденне життя. Однак ми не маємо чіткого уявлення про те, як моделі формують свої відповіді, нам складно відстежити алгоритмічний процес, що веде від запиту до результату, і ми не усвідомлюємо всіх наслідків того, що створюємо.

Чотирнадцять століть прагнень і відкриттів

Але це далеко не вперше, коли люди опановують щось, не усвідомлюючи всіх наслідків. Так було з вогнем і кам'яними сокирами. Так само в астрономії поява фотопластин і фотопомножувачів змінила галузь у спосіб, якого ніхто не передбачав. І є ще один прецедент, який тривав чотирнадцять століть.

Алхімія зародилася приблизно в 300 році нашої ери в Александрії, поступово охоплюючи Середземноморський регіон, Близький Схід, а також дійшовши до Індії та Китаю, і проіснувала до приблизно 1700 року. Сучасне суспільство часто сприймає алхімію як щось на кшталт магії з книг про Гаррі Поттера, де незвичайні персонажі намагаються трансформувати свинець на золото. Однак, історія алхімії є набагато більшою і складною.

Алхіміки розробили свою власну теорію про природу. Вони вивчали сім металів і вважали, що можна трансформувати один метал в інший. Без знань квантової механіки, періодичної таблиці і сучасних хімічних концепцій, їхня гіпотеза виглядала досить логічно. В лабораторіях вони проводили експерименти з речовинами на базовому рівні, спостерігаючи за явищами, які не могли пояснити. Метали, під впливом тепла, несподівано спалахували, і вони не знали, чому це відбувається. Елементи випаровувалися, осідали на стінах посудин і потім знову поверталися назад. Алхіміки працювали з системою, яка була потужною, але залишалася для них загадковою.

Саттер не заперечує, що штучний інтелект можна порівняти з алхімією. Проте він вважає, що це донаукове дослідження природи може надати цінні уроки для тих, хто стикається з системою, що дозволяє взаємодію, але залишається недоступною для повного розуміння.

Три уроки алхіміків для сучасної науки

Перша проблема мовних моделей, яку виокремлює Саттер, це миттєва експертність. Якщо вам потрібен астрофізик, модель стане астрофізиком. Потрібен терапевт або юрист -- буде терапевт або юрист. Ця здатність вже має практичні застосування, наприклад, розпізнавання зображень в астрономії, діагностика раку, аналіз супутникових знімків для прогнозування врожаїв.

Проте за цією потужністю ховається суттєвий недолік. Модель не вміє розрізняти істину і вигадку. Коли вона висловлюється як фахівець, їй не відомо, чи дійсно вона є експертом. Саттер жартує, що часом навіть він сумнівається у своїй ідентичності як астрофізика, тоді як мовна модель позбавлена будь-яких сумнівів. І це не просто недолік реалізації, який можна усунути. Це закладено в саму суть архітектури.

Алгоритм бере рядок слів, пропускає через тисячі шарів, будуючи зв'язки між словами. У типовій моделі кожне слово пов'язується приблизно з п'ятдесятьма тисячами інших слів, а потім проходить через близько ста тисяч перетворень. Усе це задля завдання -- передбачити наступне слово. Виявляється, що передбачення наступного слова надзвичайно потужне і корисне. Але це все, що модель робить.

Алхіміки володіли знаннями про властивості різних речовин. Вони визначали летючими ті матеріали, які, під впливом тепла і тиску, швидко змінювали свою форму або випаровувалися. Найбільшу цінність вони надавали тим речовинам, які вдавалося зафіксувати та повернути до твердого стану. Подібним чином можна говорити про мовні моделі: вони є летючими, адже здатні моментально змінювати свою сутність.

На думку Саттера, наша реакція на це полягає у заземленні. Не слід розглядати модель як безпосереднє джерело знань; краще використовувати її як інструмент для впорядкування інформації. Найефективніші способи використання штучного інтелекту — це ті, що мають зв'язок з реальністю, з конкретними джерелами, цитатами і фактами.

Іншою суттєвою проблемою є автономність систем. Моделі просто виконують свою роботу: натискаєш кнопку — і вони обробляють тисячі, а іноді й сотні тисяч масивів даних, виявляючи закономірності та відмінності. Це нагадує наявність безкоштовних аспірантів, жартує Саттер, за винятком того, що за використання токенів все ж потрібно платити, але це обходиться дешевше. Однак існує серйозна проблема: ми не розуміємо, яким чином модель формує свої відповіді. Ми створили код, знаємо архітектуру, але нейронні мережі настільки складні та нелінійні, що прослідкувати шлях від вхідних даних до виходу стає неможливо. Більше того, моделі є ймовірнісними і можуть давати різні відповіді на однакові запитання.

Алхіміки були знайомі з цією ситуацією. Вони також не мали уявлення про те, що відбувається в процесі їхніх реакцій, не знали про атоми, елементи, молекули, а також про сили. Вони спостерігали лише за вхідними та вихідними даними. Їхня теорія отримала назву "золотий ланцюг", і Саттер адаптує цю концепцію до роботи з штучним інтелектом, формулюючи принцип ретельного відстеження. Хоча ми не можемо повністю зрозуміти алгоритми, що лежать в основі роздумів моделі, ми здатні прослідкувати кожен етап, починаючи з запиту і закінчуючи результатом. Навіть якщо внутрішні процеси моделі залишаються для нас незрозумілими, ми можемо зіставити вхідні дані з виходом і, якщо потрібно, повернутися назад по всьому шляху.

Третя проблема -- нескінченний контент. Моделі генерують і генерують. Це вже використовують у розробленні ліків, де обчислення, які раніше потребували величезних ресурсів, тепер виконуються перебором мільйонів комбінацій. Але є ціна. Усі моделі дають приблизно однакові відповіді, бо побудовані на тій самій архітектурі, навчені на тих самих даних і підкріплені тими самими методами.

Можна поставити однакове запитання Claude, ChatGPT і Gemini й отримати, по суті, одну й ту саму відповідь. Саттер називає це хорошою прісністю. Та в поєднанні з миттєвою експертністю та швидкістю у людини виникає відчуття, що модель є професіоналом справи та зʼявляється спокуса віддати цій машині кермо.

Алхіміки розуміли цю небезпеку. Вони вірили в принцип "цілісної людини", що справді великі відкриття робить лише той, хто повністю залучений у процес. У лабораторії дослідник не стоїть осторонь експерименту. Він є частиною досліду і його наміри впливають на результат. За словами Саттера, навіть якщо ШІ автоматизує 90 % роботи, це не зменшує цінності того, що залишається людині. Навпаки, це підсилює її. Бо ті 10 % людського внеску і є стовідсотковою цінністю. Машини роблять те, що вміють найкраще, але кермо залишається в людських руках. Саттер називає це принципом людського суверенітету.

Кермо продовжує бути в руках людей.

Саттер відкрито демонструє, наскільки глибоко він впровадив ці інструменти у свою професійну діяльність. Він займається програмуванням з шести років і досліджує обчислювальну космологію з часів аспірантури, але з грудня не написав жодного рядка коду власноруч. У його роботі переважає використання Claude Code для всіх програмних завдань. Він генерує ідеї, проводить порівняння варіантів, отримує різні формулювання для наукових статей і доручає моделям виконання оглядів літератури. Наразі його команда працює над створенням агентних систем, які ще більше автоматизують ці процеси.

Кожного разу, коли Саттер взаємодіє з мовною моделлю, він ставить собі три запитання. Чи зможу я відстояти кожне твердження, яке вона зробила, коли випущу його у світ? Чи можу я простежити кожен результат на основі вхідних та вихідних даних? І хто насправді мав авторитет у цій роботі, хто забезпечив цінність -- я чи машина?

Тим, хто принципово відмовляється від мовних моделей, Саттер каже прямо: "Ваш колега за сусідніми дверима їх використовує. Він швидше пише гранти, готує статті, отримує результати. Я не просив цього у Всесвіту не передбачав появи ChatGPT, хоча працюю з машинним навчанням і нейронними мережами майже двадцять років. Але цей світ настав, і ми маємо адаптуватись".

Філософський камінь - це містичний об'єкт, що вважається символом перетворення та досягнення високого знання в алхімії.

Алхіміки так і не змогли виявити філософський камінь. Хоча його насправді не існувало, вони цього не усвідомлювали і шукали його протягом чотирнадцяти століть. Проте в процесі своїх пошуків вони створили щось зовсім інше. Кожне покоління алхіміків вірило, що їхня діяльність перевищує межі особистого, і що знання потрібно передавати наступним поколінням. Тому вони невтомно записували все, що робили. Фіксували кожен етап процесу, всі свої спостереження, навіть те, що залишалося для них загадкою. Документували джерела матеріалів, порядок виконання операцій та причини своїх дій.

Цей процес тривав від III століття аж до XVI-XVII століть у Європі. І серед тих, хто його продовжив, були Йоганн Кеплер, Роберт Бойль і Ісаак Ньютон. Усі троє були алхіміками й для кожного з них алхімія була основним заняттям. Те, що ми сьогодні називаємо наукою, було побічним продуктом їхньої алхімічної роботи.

Вони взяли інструменти алхіміків, такі як принципи ретельного документування, систематичного спостереження, чесного запису природних явищ такими, які вони є, і застосували їх до фізичних систем та руху небесних тіл. Так почалася наукова революція. По суті, наука бере свій початок із практик алхімії.

Ми вступаємо в нову еру, де вчені не лише застосовують технології, а й активно взаємодіють з ними. Саттер не має чіткої уяви про те, якою стане наука через десятиліття, але впевнений, що завдяки ретельному веденню документації, спостереженням і фіксації результатів, ми зможемо досягти чогось принципово нового. Можливо, це буде настільки ж впливове, як і сама наукова діяльність.