AI sa posunula od návrhu DNA k funkčným bakteriofágom

Výskumníci zo Stanfordu a Arc Institute použili model Evo 2 na návrh nových bakteriofágov, teda vírusov, ktoré napádajú baktérie. V laboratóriu potom otestovali takmer 300 syntetizovaných genómov. Šestnásť z nich vytvorilo funkčné fágy schopné infikovať a ničiť baktériu Escherichia coli.

Výsledok opísal AI News a podrobnejší kontext priniesol Wired. Práca bola publikovaná v časopise Science. Nejde teda iba o počítačový návrh sekvencie, ktorá vyzerá biologicky uveriteľne. Niektoré sekvencie boli chemicky vyrobené a následne sa v laboratóriu správali ako vírusy.

Model vychádzal z informácií obsiahnutých v miliónoch genómov rastlín, živočíchov, mikróbov a vírusov. Ako referenčný systém výskumníci použili bakteriofág ΦX174, ktorý dokáže infikovať E. coli. Jeho genóm má menej ako 6 000 párov báz. Pre porovnanie, ľudský genóm má približne 3 miliardy párov báz. Aj malý genóm však nie je jednoduchá stavebnica. Výskumníci musia rozumieť tomu, ako sú v ňom usporiadané gény, regulačné prvky a časti potrebné na rozmnožovanie vírusu.

Evo 2 dostal krátky úsek genómu a následne mal vygenerovať celý genóm bakteriofága jedným priechodom zľava doprava. Vznikli tisíce kandidátov. Do chemickej syntézy sa však nedostali všetky. Samuel King vytvoril výpočtový rámec, ktorý kandidátov filtroval podľa vlastností známych z ΦX174 a príbuzných fágov. Až potom tím vybral sekvencie na výrobu a laboratórne testovanie.

To je praktický detail, ktorý sa pri správach o AI často stratí. Model síce navrhol biologické sekvencie, ale o výsledku rozhodla kombinácia modelu, výpočtového výberu, chemickej syntézy a experimentu. AI nepreskočila laboratórium. Pomohla zúžiť priestor možností, v ktorom by človek hľadal oveľa dlhšie.

Šestnásť funkčných fágov sa od prirodzeného ΦX174 líšilo sekvenciami, génmi, regulačnými prvkami aj veľkosťou genómu. Niektoré boli v laboratórnych testoch výkonnejšie než pôvodný vírus. Výskumníci zároveň vytvorili zmes všetkých 16 fágov a skúmali, či dokáže prekonať odolnosť E. coli voči prirodzenému ΦX174. Zmes podľa opisu výskumu rýchlo obnovila schopnosť infikovať rezistentné baktérie.

Tu treba brzdiť interpretáciu. Výsledok sa týka jednej baktérie, jedného základného biologického systému a laboratórnych podmienok. Neznamená, že máme novú liečbu infekcií. Nevieme z neho vyvodiť bezpečnosť u zvierat alebo ľudí, účinnosť v tele, stabilitu pri skladovaní ani to, ako sa bude správať pri širšom spektre bakteriálnych kmeňov.

Výskumníci hovoria o možnosti navrhovať fágy proti rezistentným patogénom, ako sú MRSA alebo Pseudomonas aeruginosa. To je rozumný ďalší smer. Zároveň však rovnaká schopnosť vytvárať nové biologické sekvencie otvára aj otázky biologickej bezpečnosti. Open-source model môže urýchliť legitímny výskum, ale tiež rozšíriť prístup k nástrojom, ktorých použitie sa ťažšie kontroluje.

Čo si z toho zobrať? Pre firmu mimo biotechnológií je hlavnou lekciou pracovný postup, nie samotný vírus. AI vygenerovala veľa kandidátov, softvér ich prefiltroval a laboratórium overilo realitu. Pri vlastnom projekte si preto oddeľte generovanie, výber a meranie výsledku. Model bez validačného kroku vyrába iba zoznam hypotéz, nie funkčný produkt.

Kalifornský zákon zvyšuje transparentnosť, no prvý dojem necháva platformám

Kalifornský zákon o transparentnosti AI začal platiť tento týždeň. Podľa Fast Company vyžaduje, aby široko používané nástroje na tvorbu AI obsahu pridávali dva typy údajov o pôvode obsahu.

Prvým je metadátový záznam, ktorý môže obsahovať informáciu o autorovi, čase vytvorenia a použitom nástroji. Druhý typ je vložený priamo v obsahu. Pri obrázku môže byť ukrytý v pixeloch, pri inom médiu v jeho samotnej štruktúre. Poskytovatelia nástrojov musia ponúknuť aj bezplatný verejný nástroj na detekciu týchto údajov.

Zákon však nevyžaduje, aby každý AI výstup dostal priamo viditeľné označenie. Nástroje musia používateľom umožniť pridať viditeľný alebo počuteľný štítok, ale nemusia ho automaticky pridať ku všetkému. Od budúceho roka budú mať povinnosť reagovať aj distribučné platformy, napríklad sociálne siete. Tie však môžu použiť odkaz, ikonu alebo vlastné rozhranie.

Práve tu vzniká rozdiel medzi technickou transparentnosťou a transparentnosťou pre človeka. Údaj môže byť v súbore prítomný, no používateľ ho nemusí vidieť pri prvom kontakte s obrázkom alebo videom. Prvý dojem často rozhoduje skôr, než niekto otvorí detaily. Malá ikona v menu preto nemusí mať rovnaký účinok ako jasné označenie priamo pri obsahu.

Čo si z toho zobrať? Ak firma publikuje AI-generovaný obsah, nespoliehajte sa iba na technické metadáta. Zaveďte vlastné pravidlo, kde a ako obsah označíte, kto označenie skontroluje a čo urobíte po jeho odstránení platformou. Zákonné minimum je štartovacia čiara, nie komunikačná stratégia.

Apple testuje difúzne jazykové modely, no rýchlosť sama o sebe nestačí

Apple Machine Learning Research zverejnil porovnanie difúznych a autoregresívnych jazykových modelov. Dnešné veľké jazykové modely väčšinou používajú autoregresívny prístup. Text generujú postupne, token po tokene, pričom každý ďalší krok závisí od predchádzajúceho.

Difúzne jazykové modely sa pokúšajú generovať viac pozícií naraz. Tým môžu zvýšiť výpočtovú paralelizáciu a znížiť obmedzenie, ktoré vzniká pri sekvenčnom generovaní. Na papieri to vyzerá ako jednoduchá cesta k rýchlejšiemu AI.

Výsledky Apple sú opatrnejšie. Difúzne modely síce dosahujú vyššiu arithmetic intensity, teda lepšie využitie výpočtového výkonu pri paralelnej práci, ale horšie sa škálujú pri dlhších kontextoch. Pri spracovaní viacerých požiadaviek v dávke majú podľa výskumu autoregresívne modely výhodu, pretože lepšie využívajú paralelizáciu medzi jednotlivými sekvenciami.

Výskumníci skúmali aj block-wise decoding, pri ktorom sa výstup generuje v blokoch. Tento prístup má oddeliť výpočtovú náročnosť od dĺžky sekvencie a zlepšiť správanie pri dlhých kontextoch. Pri otvorených difúznych modeloch však bude podľa Apple rozhodujúce zníženie počtu sampling steps, teda krokov potrebných na vytvorenie výsledného textu.

Pre používateľa to znamená, že alternatíva k predpovedaniu ďalšieho tokenu ešte nie je automaticky lepšia. Výkon závisí od typu úlohy, dĺžky vstupu, počtu súbežných požiadaviek a hardvéru. Jedno číslo o rýchlosti preto nestačí. Benchmark bez podmienok je marketing s laboratórnym plášťom.

Čo si z toho zobrať? Pri výbere modelu merajte čas a cenu na vlastných úlohách. Otestujte krátke aj dlhé vstupy, jednu požiadavku aj dávkové spracovanie. Ak používate AI v produkcii, sledujte nielen počet tokenov za sekundu, ale aj kvalitu odpovedí, stabilitu a cenu celej požiadavky.

Čo ešte stojí za prečítanie?

  • AMD kupuje startup Taalas, ktorého špecializovaný čip v demonštrácii dosiahol viac než 16 000 tokenov za sekundu, The Decoder.
  • Model Otter má iba 15,3 milióna parametrov a snaží sa predpovedať ľudský šachový ťah, nie najlepší počítačový ťah, arXiv.
  • Model na detekciu pádov dosiahol 94 % presnosť, no jedna chyba v hodnotení výsledok nadhodnotila o 25 percentuálnych bodov, Towards Data Science.
  • Pri úzko zameraných úlohách môže 3-miliardový model prekonať 70-miliardový model pri výrazne nižšej výpočtovej náročnosti, KDnuggets.
  • Výskumníci skúmajú, ako sa pri predikcii výsledku ischemickej mozgovej príhody mení výkon modelu po prechode z priebežného skóre na klinické kategórie, arXiv.

Čo si o tom myslím

Pri správe o 16 funkčných fágoch ma zaujíma najmä pomer medzi generovaním a overovaním. Model vyprodukoval tisíce možností, ale fungovalo iba 16 zo zhruba 300 syntetizovaných genómov. To nie je zlyhanie AI. Je to pripomienka, že v biológii sa výsledok počíta až po experimente. Rovnaké pravidlo platí vo firme. Ak AI vytvorí 300 návrhov e-mailu, kampane alebo produktu, ešte ste nič neušetrili. Úspora vznikne až vtedy, keď máte lacný spôsob výberu, jasné kritériá a niekoho, kto výsledok skontroluje. Generovanie je lacné. Dôveryhodná validácia býva tá drahšia časť.

Na záver

Výskumníci z Allen Institute skúmajú „tutoring moments“, teda okamihy, keď má AI doučovateľ žiakovi pomôcť a keď má radšej ustúpiť.

Tento problém vyzerá na prvý pohľad menší než návrh nových vírusov. V skutočnosti sa dotýka každého systému, ktorý má človeka podporovať. Pomoc nie je iba správna odpoveď. Niekedy je pomoc otázka, nápoveda alebo niekoľko sekúnd ticha.

Dobrý doučovateľ neukradne žiakovi posledný krok. Nechá ho pocítiť, že na riešenie prišiel sám. To isté platí pri AI vo firmách. Automatizácia, ktorá odstráni každé rozhodnutie človeka, môže zrýchliť proces, ale nemusí zlepšiť učenie, kvalitu ani zodpovednosť. Najlepší systém preto nie je ten, ktorý odpovie vždy. Je to ten, ktorý vie, kedy odpoveď ešte nechať na človeka.

Pri najbližšom AI projekte si preto najprv určte, čo má systém vygenerovať, čo musí overiť človek a podľa akého merania spoznáte, že naozaj funguje.