Inception lansează Mercury 3: modelul de limbaj bazat pe difuzie promite viteze de peste 1.000 de tokeni pe secundă

Generarea clasică de text cuvânt cu cuvânt ar putea avea în sfârșit o alternativă viabilă pe zona de viteză brută. Startup-ul Inception a prezentat oficial Mercury 3, un model de limbaj bazat pe o arhitectură de difuzie, capabil să depășească modele precum GPT-6 Luna sau Claude Haiku 5.5 în teste sintetice, oferind în același timp un timp de răspuns considerabil mai mic.

Ce s-a întâmplat

Spre deosebire de modelele autoregresive obișnuite, care generează text token cu token și depind strict de elementul anterior, Mercury 3 folosește mecanisme inspirate din generatoarele de imagini. Arhitectura schițează inițial o versiune brută a întregului răspuns și o rafinează succesiv prin mai mulți pași de procesare, generând blocuri întregi de cuvinte simultan. Conform datelor publicate de Inception, modelul atinge 1.068 de tokeni pe secundă pe plăci video Nvidia, în timp ce Claude Haiku 5.5 rulează la circa 240 de tokeni, iar GPT-6 Luna la aproximativ 130.

În evaluările interne, Mercury 3 a depășit concurența în 8 din cele 12 benchmark-uri testate. Modelul a obținut un scor de 76,84 pe IFBench pentru respectarea instrucțiunilor și 51,08 puncte pe SWE-Bench Atlas pentru programare autonomă. Cu toate acestea, Claude Haiku 5.5 a rămas superior pe căutarea de informații în documente lungi și pe testul complex de programare DeepSWE. Mercury 3 acceptă o fereastră de context de până la 1 milion de tokeni și vine pe fondul unei finanțări de 50 de milioane de dolari obținute de Inception de la diviziile de investiții ale Nvidia, Microsoft și Snowflake.

De ce contează în România

Pentru echipele tech și companiile din România care dezvoltă asistenți virtuali, boți de asistență tehnică sau agenți autonomi, latența este un obstacol major. În scenariile complexe în care un agent AI parcurge zeci de pași consecutivi pentru a rezolva o problemă, întârzierile mici se acumulează rapid și creează blocaje frustrante pentru utilizatori.

Viteza promisă de Mercury 3 ar putea transforma radical experiența în aplicațiile care cer reacție imediată, precum soluțiile de asistență vocală pentru clienți sau interfețele pentru ochelari inteligenți. În plus, faptul că modelul folosește un format de API compatibil cu OpenAI înseamnă că echipele locale de inginerie pot efectua teste comparative fără să rescrie codul sau arhitectura aplicațiilor deja existente.

Cum poți încerca

Mercury 3 este disponibil direct pe platforma Inception, dar poate fi accesat și prin servicii terțe de integrare precum OpenRouter, Baseten și Vercel. Datorită compatibilității API, dezvoltatorii pot comuta traficul prin simpla schimbare a URL-ului de bază și a cheii de autentificare.

Prețul de listă este de 0,20 dolari per milion de tokeni de intrare și 0,70 dolari per milion de tokeni generați, compania oferind o reducere de 50% pe perioada lansării. Deși cifrele de viteză par spectaculoase, trebuie reținut că rezultatele provin exclusiv din măsurătorile interne ale startup-ului, lipsind deocamdată evaluările venite din teste independente.