AI se posunula od návrhu DNA k funkčním bakteriofágům

Výzkumníci ze Stanfordu a Arc Institute použili model Evo 2 k návrhu nových bakteriofágů, tedy virů, které napadají bakterie. V laboratoři pak otestovali téměř 300 syntetizovaných genomů. Šestnáct z nich vytvořilo funkční fágy schopné infikovat a ničit bakterii Escherichia coli.

Výsledek popsal AI News a podrobnější kontext přinesl Wired. Práce byla publikována v časopise Science. Nejde tedy jen o počítačový návrh sekvence, která vypadá biologicky věrohodně. Některé sekvence byly chemicky vyrobeny a následně se v laboratoři chovaly jako viry.

Model vycházel z informací obsažených v milionech genomů rostlin, živočichů, mikrobů a virů. Jako referenční systém výzkumníci použili bakteriofág ΦX174, který dokáže infikovat E. coli. Jeho genom má méně než 6 000 párů bází. Pro srovnání, lidský genom má přibližně 3 miliardy párů bází. Ani malý genom však není jednoduchá stavebnice. Výzkumníci musí rozumět tomu, jak jsou v něm uspořádané geny, regulační prvky a části potřebné k rozmnožování viru.

Evo 2 dostal krátký úsek genomu a následně měl vygenerovat celý genom bakteriofága v jediném průchodu zleva doprava. Vznikly tisíce kandidátů. Do chemické syntézy se však nedostali všichni. Samuel King vytvořil výpočetní rámec, který kandidáty filtroval podle vlastností známých z ΦX174 a příbuzných fágů. Teprve poté tým vybral sekvence k výrobě a laboratornímu testování.

To je praktický detail, který se při zprávách o AI často ztratí. Model sice navrhl biologické sekvence, ale o výsledku rozhodla kombinace modelu, výpočetního výběru, chemické syntézy a experimentu. AI laboratoř nepřeskočila. Pomohla zúžit prostor možností, v němž by člověk hledal mnohem déle.

Šestnáct funkčních fágů se od přirozeného ΦX174 lišilo sekvencemi, geny, regulačními prvky i velikostí genomu. Některé byly v laboratorních testech výkonnější než původní virus. Výzkumníci zároveň vytvořili směs všech 16 fágů a zkoumali, zda dokáže překonat odolnost E. coli vůči přirozenému ΦX174. Směs podle popisu výzkumu rychle obnovila schopnost infikovat rezistentní bakterie.

Tady je třeba brzdit interpretaci. Výsledek se týká jediné bakterie, jednoho základního biologického systému a laboratorních podmínek. Neznamená, že máme novou léčbu infekcí. Nelze z něj vyvozovat bezpečnost u zvířat nebo lidí, účinnost v těle, stabilitu při skladování ani to, jak se bude chovat vůči širšímu spektru bakteriálních kmenů.

Výzkumníci hovoří o možnosti navrhovat fágy proti rezistentním patogenům, jako jsou MRSA nebo Pseudomonas aeruginosa. To je rozumný další směr. Zároveň však stejná schopnost vytvářet nové biologické sekvence otevírá i otázky biologické bezpečnosti. Open-source model může urychlit legitimní výzkum, ale také rozšířit přístup k nástrojům, jejichž použití se obtížněji kontroluje.

Co si z toho odnést? Pro firmu mimo biotechnologie je hlavní lekcí pracovní postup, ne samotný virus. AI vygenerovala mnoho kandidátů, software je předfiltroval a laboratoř ověřila realitu. Při vlastním projektu proto oddělte generování, výběr a měření výsledku. Model bez validačního kroku vyrábí jen seznam hypotéz, nikoli funkční produkt.

Kalifornský zákon zvyšuje transparentnost, první dojem však nechává na platformách

Kalifornský zákon o transparentnosti AI začal platit tento týden. Podle Fast Company vyžaduje, aby široce používané nástroje pro tvorbu obsahu pomocí AI přidávaly dva typy údajů o původu obsahu.

Prvním je záznam v metadatech, který může obsahovat informace o autorovi, čase vytvoření a použitém nástroji. Druhý typ je vložen přímo do obsahu. U obrázku může být ukrytý v pixelech, u jiného média v jeho samotné struktuře. Poskytovatelé nástrojů musí nabídnout také bezplatný veřejný nástroj k detekci těchto údajů.

Zákon však nevyžaduje, aby každý výstup AI dostal přímo viditelné označení. Nástroje musí uživatelům umožnit přidat viditelný nebo slyšitelný štítek, nemusí ho však automaticky přidávat ke všemu. Od příštího roku budou mít povinnost reagovat také distribuční platformy, například sociální sítě. Ty však mohou použít odkaz, ikonu nebo vlastní rozhraní.

Právě tady vzniká rozdíl mezi technickou transparentností a transparentností pro člověka. Údaj může být v souboru přítomný, uživatel ho však nemusí vidět při prvním kontaktu s obrázkem nebo videem. První dojem často rozhoduje dříve, než někdo otevře podrobnosti. Malá ikona v nabídce proto nemusí mít stejný účinek jako jasné označení přímo u obsahu.

Co si z toho odnést? Pokud firma publikuje obsah generovaný AI, nespoléhejte se jen na technická metadata. Zaveďte vlastní pravidlo, kde a jak obsah označíte, kdo označení zkontroluje a co uděláte po jeho odstranění platformou. Zákonné minimum je startovní čára, ne komunikační strategie.

Apple testuje difuzní jazykové modely, samotná rychlost však nestačí

Apple Machine Learning Research zveřejnil srovnání difuzních a autoregresivních jazykových modelů. Dnešní velké jazykové modely většinou používají autoregresivní přístup. Text generují postupně, token po tokenu, přičemž každý další krok závisí na předchozím.

Difuzní jazykové modely se pokoušejí generovat více pozic najednou. Tím mohou zvýšit výpočetní paralelizaci a zmírnit omezení vznikající při sekvenčním generování. Na papíře to vypadá jako jednoduchá cesta k rychlejší AI.

Výsledky Apple jsou opatrnější. Difuzní modely sice dosahují vyšší arithmetic intensity, tedy lepšího využití výpočetního výkonu při paralelní práci, ale hůře se škálují u delších kontextů. Při zpracování více požadavků v dávce mají podle výzkumu autoregresivní modely výhodu, protože lépe využívají paralelizaci mezi jednotlivými sekvencemi.

Výzkumníci zkoumali také block-wise decoding, při němž se výstup generuje po blocích. Tento přístup má oddělit výpočetní náročnost od délky sekvence a zlepšit chování u dlouhých kontextů. U otevřených difuzních modelů však bude podle Apple rozhodující snížení počtu sampling steps, tedy kroků potřebných k vytvoření výsledného textu.

Pro uživatele to znamená, že alternativa k předpovídání dalšího tokenu ještě automaticky není lepší. Výkon závisí na typu úlohy, délce vstupu, počtu souběžných požadavků a hardwaru. Jedno číslo o rychlosti proto nestačí. Benchmark bez podmínek je marketing v laboratorním plášti.

Co si z toho odnést? Při výběru modelu měřte čas a cenu na vlastních úlohách. Otestujte krátké i dlouhé vstupy, jeden požadavek i dávkové zpracování. Pokud používáte AI v produkci, sledujte nejen počet tokenů za sekundu, ale také kvalitu odpovědí, stabilitu a cenu celého požadavku.

Co ještě stojí za přečtení?

  • AMD kupuje startup Taalas, jehož specializovaný čip v demonstraci dosáhl více než 16 000 tokenů za sekundu, The Decoder.
  • Model Otter má pouze 15,3 milionu parametrů a snaží se předpovídat lidský šachový tah, nikoli nejlepší počítačový tah, arXiv.
  • Model pro detekci pádů dosáhl 94 % přesnosti, jedna chyba ve vyhodnocení však výsledek nadhodnotila o 25 procentních bodů, Towards Data Science.
  • U úzce zaměřených úloh může 3miliardový model překonat 70miliardový model při výrazně nižší výpočetní náročnosti, KDnuggets.
  • Výzkumníci zkoumají, jak se při predikci výsledku ischemické cévní mozkové příhody mění výkon modelu po přechodu z průběžného skóre na klinické kategorie, arXiv.

Co si o tom myslím

U zprávy o 16 funkčních fágech mě zajímá především poměr mezi generováním a ověřováním. Model vyprodukoval tisíce možností, ale fungovalo jen 16 z přibližně 300 syntetizovaných genomů. Není to selhání AI. Je to připomínka, že v biologii se výsledek počítá až po experimentu. Stejné pravidlo platí ve firmě. Pokud AI vytvoří 300 návrhů e-mailu, kampaně nebo produktu, ještě jste nic neušetřili. Úspora vznikne teprve tehdy, když máte levný způsob výběru, jasná kritéria a někoho, kdo výsledek zkontroluje. Generování je levné. Důvěryhodná validace bývá dražší částí.

Na závěr

Výzkumníci z Allen Institute zkoumají „tutoring moments“, tedy okamžiky, kdy má AI jako doučovatel žákovi pomoci a kdy má raději ustoupit.

Tento problém na první pohled vypadá menší než návrh nových virů. Ve skutečnosti se dotýká každého systému, který má člověka podporovat. Pomoc není jen správná odpověď. Někdy je pomocí otázka, nápověda nebo několik sekund ticha.

Dobrý doučovatel žákovi nevezme poslední krok. Nechá ho pocítit, že na řešení přišel sám. Totéž platí pro AI ve firmách. Automatizace, která odstraní každé lidské rozhodnutí, může proces urychlit, nemusí však zlepšit učení, kvalitu ani odpovědnost. Nejlepší systém proto není ten, který odpoví vždy. Je to ten, který ví, kdy ještě nechat odpověď na člověku.

Při nejbližším projektu s AI si proto nejprve určete, co má systém vygenerovat, co musí ověřit člověk a podle jakého měření poznáte, že skutečně funguje.