V posledních týdnech vzbudil pozornost vývoj jabloneckého startupu BioCortex AI, který se zaměřuje na vylepšení schopností velkých jazykových modelů, jako jsou ChatGPT a Claude. Tato nová technologie, nazvaná neuromorfní kognitivní paměť (NCM), má potenciál zásadně změnit způsob, jakým tyto modely fungují. V současné době se velké jazykové modely potýkají s problémem, kdy ztrácejí paměť a kontext v průběhu delších interakcí, což vede k nutnosti opakovaně zpracovávat data a spotřebovávat velké množství tokenů především v rámci RAG (Retrieval-Augmented Generation) databází.
Startup BioCortex AI se proto rozhodl tento problém řešit vyvinutím paměťové vrstvy, která uchovává kontext napříč sezeními a modely. Tato technologie je inspirativně inspirována lidským mozkem a má být nezávislá na konkrétním LLM modelu, což znamená, že uživatelé mohou snadno přecházet mezi různými modely bez ztráty historických informací. Jak uvádějí tvůrci, jejich systém neukládá přesné textové řetězce, ale využívá logické a sémantické asociace pro vyhledování relevantních informací.
Jednou z klíčových výhod technologie NCM je její schopnost dodat uživatelům související historické souvislosti během jednotlivých interakcí. Například pokud se uživatel zabývá opravou kódu, NCM může poskytnout informace o předchozích chybách a jejich řešeních, což může značně usnadnit práci a zkrátit čas potřebný k řešení problémů. Tato architektura odděluje dlouhodobou paměť od samotného výpočetního jádra umělé inteligence, což znamená, že neexistuje riziko, že by uživatel ztratil kontext, když změní základní model.
BioCortex AI rovněž uvádí, že jejich systém otevírá možnost vytváření digitálních aktiv na trhu označovaném jako Practice-as-a-Product. Tímto způsobem je možné uchovat a přenést pracovní zkušenost a know-how uživatelů, což představuje nový způsob monetizace dovedností v digitálním prostoru. Ačkoli mohou být data uchovávána uspořádaně a efektivně, zůstávají šifrována a uložená lokálně, což splňuje všechny požadavky na bezpečnost podle norem evropského trhu.
NCM se skládá ze tří hlavních částí. První část zvaná PlantNet se inspiruje rostlinným distribuovaným počítáním a zavádí chemickou vrstvu, která ovlivňuje styl pozornosti LLM. Tato modulace funguje na základě analýzy predikčních chyb, což zajišťuje adaptaci v reálném čase. Druhá část, perzistentní 3D paměť, nahrazuje běžné RAG systémy a využívá latentní terén pro uchovávání informací. Tato paměť zahrnuje jak krátkodobou, tak dlouhodobou paměť s mechanismy pro homeostázu a pravidelnou konsolidaci. Třetí část, digitální zrcadlo, je mechanismus, který analyzuje výstupy modelu z pohledu vnějšího pozorovatele a slouží pro autokalibraci a etickou seberegulaci systému.
Aktuálně je paměť NCM k dispozici jako webové rozšíření pro operační systémy Windows, macOS a Linux, a to s možností souběžného používání více záložek. Vedle toho startup nabízí také server MCP pro desktopové aplikace, které momentálně funguje v testovací verzi. K dispozici je také balíček SDK pro Unity, zaměřený na tvorbu postav s trvalou pamětí. BioCortex AI se tak připojuje k trendu inovací v oblasti umělé inteligence a svým řešením může přispět ke zlepšení výkonu a bezpečnosti AI v budoucnu.