Google DeepMind i Isomorphic Labs predstavili su zajednički pristup bioresilijenciji, odnosno otpornosti bioloških sistema i društva na rizike povezane sa zaraznim bolestima i potencijalnom zloupotrebom AI modela.
Kompanije navode da je cilj dvostruk: da se spreči neovlašćena i opasna upotreba modela, ali i da se veštačka inteligencija koristi za jačanje javnog zdravlja, bržu detekciju izbijanja bolesti i efikasniji odgovor kada se ona pojave.
U objavi se ističe da su u prethodnih 12 meseci ostvarili više od 15 partnerstava sa državnim institucijama, organizacijama za biobezbednost i istraživačkim grupama. Ta saradnja, prema njihovim navodima, treba da pomogne i u zaštiti od zloupotrebe modela i u ranom otkrivanju novih epidemijskih talasa.
Tri oblasti: prevencija, detekcija i odgovor
Njihov pristup zasniva se na tri segmenta: prevencija, detekcija i odgovor. Ideja je da se AI modeli i agenti, uz rad sa proverenim partnerima, koriste u različitim fazama biobezbednosnog rizika.
Prevencija
Za modele poput Gemini, kompanije navode četvorostepeni bezbednosni proces: modelovanje pretnji, evaluacije, mere ublažavanja i nadzor. U tom radu sarađuju sa internim biologima, bezbednosnim stručnjacima i spoljnim partnerima kako bi testirali modele na potencijalne zloupotrebe i ugradili zaštite.
Takođe kažu da rade na prilagođavanju tehnologije SynthID, Google-ovog sistema za vodeni žig, za biologiju. U toj verziji cilj bi bio da proizvođači DNK mogu da prepoznaju potencijalno rizične, AI-generisane biološke sekvence.
Detekcija
U delu koji se odnosi na detekciju, Google DeepMind navodi da bi njegov agent AlphaEvolve mogao da optimizuje algoritme koji se koriste za obradu metagenomskih podataka, što bi ubrzalo otkrivanje novih izbijanja bolesti. Metagenomika je analiza genetskog materijala iz uzoraka iz okruženja, bez prethodnog izdvajanja pojedinačnih organizama.
Kompanije takođe istražuju kako bi se AlphaGenome i sistemi za anotaciju funkcije proteina mogli koristiti za prepoznavanje i karakterizaciju patogena na osnovu sekvenci, odnosno genetskih zapisa. Prema njihovoj tvrdnji, to bi moglo da pomogne u ranijem otkrivanju novih obrazaca i pretnji.
Odgovor
U trećoj oblasti, odgovor na epidemije i druge pretnje, navode da će provereni istraživači dobiti pristup novijim AI sistemima Google DeepMind-a kako bi se ubrzao razvoj vakcina i drugih protivmera za poznate i nove rizike.
Isomorphic Labs je, prema objavi, formirao i poseban tim koji može brzo da primeni svoj sistem za dizajn lekova kada se pojavi potreba za medicinskim protivmerama. To uključuje situacije prirodnih pandemija, ali i potencijalne rizike koji mogu nastati zloupotrebom napredne AI.
Širi bezbednosni okvir
Ova inicijativa je deo šireg pristupa upravljanju rizicima koji obuhvata i hemijske, biološke, radiološke i nuklearne pretnje, odnosno CBRN rizike. Kompanije to povezuju sa svojim Frontier Safety Framework okvirom, koji koristi procene i mere ublažavanja za napredne modele.
U objavi se naglašava da je ceo posao dugoročan i da zahteva saradnju sa biobezbednosnim laboratorijama, vladama i naučnom zajednicom. Istovremeno, Google DeepMind i Isomorphic Labs pozivaju na nova partnerstva kako bi se AI koristila odgovorno u zaštiti od bioloških rizika.
Za čitaoce u Srbiji i regionu ova tema je važna jer pokazuje u kom pravcu idu najnapredniji AI programi: ne samo ka generisanju sadržaja i softvera, već i ka primeni u javnom zdravlju, biomedicini i biobezbednosti. U praksi, to znači da će saradnja između AI laboratorija, zdravstvenih institucija i regulatora postajati sve važnija tema i van SAD i Velike Britanije.
