Напредокот на вештачката интелигенција во биологијата носи сериозни ризици. Новиот модел Mythos покажува застрашувачки способности за манипулација со податоци што би можеле да доведат до креирање смртоносни биолошки агенси.
Вештачката интелигенција (AI) е на прагот да додаде уште една „натчовечка“ способност на својата листа: супериорно познавање на биологијата.. Новиот модел на компанијата Anthropic, наречен Mythos, кој сè уште не е пуштен во јавна употреба поради неговите хакерски вештини, неодамна успеа да реши една третина од најтешките задачи за анализа на био-податоци, кои беа составени од врвни експерти.. Mythos извршил задачи што ниту еден тестиран човек не успеал да ги направи – на пример, реконструкција на тип на клетка од сирови ДНК-податоци.. Од демократизација до био-тероризам Според извештајот на „The Economist“, ваквите способности значат дека вештачката интелигенција наскоро би можела да им даде на корисниците застрашувачки моќи.. Станува збор за синтетизирање нови вируси, создавање смртоносни невротоксини или создавање на т.н.. „огледален живот“ (mirror life), вештачки организми со превртена биолошка структура кои би можеле целосно да го уништат постоечкиот живот на Земјата.. Најголемиот страв е дека AI би можел на „осамен мизантроп“ да му даде моќ да го збрише човештвото.. За разлика од кибер-безбедноста, каде софтверот може брзо да се закрпи, човечката биологија е далеку помалку прилагодлива.. Ако еден генетски модифициран вирус предизвика милијарди смртни случаи, човештвото нема простор за учење од грешките.. Зошто сегашните заштити не се доволни?. Иако јавните модели како ChatGPT сè уште не нудат голема практична помош во лабораторија, Anthropic предупредува дека Mythos наскоро би можел да води почетници низ сложени лабораториски процедури.. Проблемот е што постоечките заштитни механизми лесно се заобиколуваат: „Jailbreaking“ (манипулација): Истражувањата покажуваат дека 90% од почетниците успеале да извлечат забранети информации за вирологија од модели кои биле програмирани да одбијат такви прашања.Бришење податоци: Дури и ако од процесот на тренирање се отстранат информациите за патогени, напреден AI модел може сам да дојде до тоа знаење користејќи ги само основните научни принципи и логика.. Тежок надзор и „операција на мозокот“ на AI За разлика од нуклеарното оружје, за кое се потребни ретки материјали како ураниум, биолошки агенси може да се развијат со комерцијално достапна опрема.. Државата едноставно не може да ја надгледува секоја Петриева шолја во светот.. Научниците сега предлагаат поригорозни методи: Директна деактивација: Идентификување и „гасење“ на невронските мрежи во моделот кои се активираат при работа на синтетичка биологија.Контрола на физичкиот свет: Строг надзор над добавувачите на ДНК-синтеза по принципот „запознај го својот корисник“.. Безбедноста пред напредокот Додека не се развијат сигурни техники за контрола, владите ќе мора да го ограничат пристапот до вакви системи.. Иако моделите на DeepMind веќе развиваат нови терапии против рак, мора да постојат строги протоколи.. Нема смисла да се користи вештачка интелигенција за подобрување на животот, ако истовремено им дава моќ на терористите да го уништат светот.
вештачка интелигенција, Anthropic, Mythos, биолошка закана, синтетичка биологија, безбедност на AI