Дослідники фармацевтичної компанії натрапили на жахливе усвідомлення, довівши, що в машинному навчанні немає нічого хорошого, повідомляє Guardian.

Ось історія, про яку прихильники так званого ШІ (штучного інтелекту) або машинного навчання (ML) воліли б не згадувати. Вона походить зі сторінок Nature Machine Intelligence.

У головних ролях - чотири науковці, які працюють у фармацевтичній компанії, що розробляє системи машинного навчання для пошуку «нових терапевтичних інгібіторів» – речовин, які перешкоджають хімічнім реакціям, росту чи іншим біологічним активностям причетним до хвороб людини.

Науковці шукали молекули, які відповідали б двом критеріям: позитивні терапевтичні можливості та низька токсичність для людини.

Потім їх запросили на конференцію Швейцарського федерального інституту ядерного, біологічного та хімічного захисту (Swiss Federal Institute for Nuclear, Biological and Chemical Protection) присвячену технологічним розробкам, які можуть мати наслідки для Конвенції про хімічну/біологічну зброю. Організатори конференції хотіли опублікувати статтю про те, як можна зловживати машинним навчанням (ML) .

«Це те, про що ми ніколи не замислювалися раніше», - згадувала одна з вчених . «Але було дуже легко усвідомити, що, оскільки ми будуємо ці моделі машинного навчання, щоб ставати все краще й краще в прогнозуванні токсичності, щоб уникнути токсичності, все, що нам потрібно зробити, це переключити перемикач і сказати: «Знаєте, замість того, щоб відійти від токсичності, що, якщо ми підемо до токсичності?»

Тож вони натиснули вимикач і тим самим відкрили перед людством жахливу перспективу. Менш ніж за шість годин модель створила 40 000 молекул, які досягли порогу, встановленого дослідниками. Машина створила VX та багато інших відомих бойових отруйних речовин, окремо підтверджених структурами в відкритих базах даних хімії. «Це було неочікувано, — пишуть дослідники, — оскільки набори даних, які ми використовували для навчання ШІ, не включали цих нервово-паралітичних речовин… Змінивши використання наших моделей машинного навчання, ми перетворили нашу нешкідливу генеративну модель із корисного інструменту створення ліків до генератора ймовірно смертельних молекул».

VX був розроблений Лабораторією оборонної науки і техніки Великобританії (Defence Science and Technology Lab - DSTL) на початку 1950-х років. Це вид зброї, який раніше могли розробляти лише фінансовані державою лабораторії, такі як DSTL. Але тепер злий гік із купою графічних процесорів і доступом до молекулярної бази даних може придумати щось подібне. І хоча для перетворення молекулярної структури на працюючу зброю все одно знадобляться деякі спеціальні знання з хімії та токсикології, тепер ми дізналися, як визнають самі дослідники, що моделі машинного навчання (ML) «значно знижують технічні пороги».

У цій історії мене вражають дві речі. По-перше, дослідники «ніколи не замислювалися» про можливе зловмисне використання їхньої технології. У цьому вони, ймовірно, були типовими для легіонів інженерів, які працюють зі штучним інтелектом у промислових лабораторіях. По-друге, незважаючи на те, що машинне навчання явно забезпечує потужне розширення людських можливостей (так би мовити, підсилювач керма для розуму), чи буде це гарною новиною для людства, залежить від того, чию свідомість воно збільшує.


Автор:
John Naughton



Повна версія на сайті theguardian.com >>>