Lavoro per Nova intelligence, una piattaforma agentic ai per SAP. Sono convinto che il grosso del valore sia in prodotti simili, idealmente non legati a una particolare piattaforma/industria/mercato, piu' probabilmente nel medio periodo lo stato dell'arte sara' un'accozzaglia di diversi agenti specializzati nel loro orticello, e un paio specializzati nel coordinarli
In questo mercato i laboratori di frontiera non hanno alcun vantaggio competitivo, e ciascuna piattaforma puo' saltare da uno all'altro cambiando un apio di parametri, il loro moat e' la differenza di prestazioni nell'applicazione specifica, che non e' grande e tende a perder importanza mentre migliorano: dare la risposta giusta al primo tentativo il 95% o il 96% delle volte cambia poco se posso verificarla deterministicamente o quasi
In questo mercato il modello e' abbastanza vicino a una commodity ora, e penso lo sara' sempre piu'
Quanto al costo dei token la legge di moore sara' pure morta, ma le prestazioni continuano a migliorare, e ci son sempre strade alternative, tipo chatjimmy.ai che fa girare llama 3.1 a 15000 token/s
Nel medio periodo scendera', per lo meno a pari "intelligenza"
Lavoro per Nova intelligence, una piattaforma agentic ai per SAP. Sono convinto che il grosso del valore sia in prodotti simili, idealmente non legati a una particolare piattaforma/industria/mercato, piu' probabilmente nel medio periodo lo stato dell'arte sara' un'accozzaglia di diversi agenti specializzati nel loro orticello, e un paio specializzati nel coordinarli
In questo mercato i laboratori di frontiera non hanno alcun vantaggio competitivo, e ciascuna piattaforma puo' saltare da uno all'altro cambiando un apio di parametri, il loro moat e' la differenza di prestazioni nell'applicazione specifica, che non e' grande e tende a perder importanza mentre migliorano: dare la risposta giusta al primo tentativo il 95% o il 96% delle volte cambia poco se posso verificarla deterministicamente o quasi
In questo mercato il modello e' abbastanza vicino a una commodity ora, e penso lo sara' sempre piu'
Quanto al costo dei token la legge di moore sara' pure morta, ma le prestazioni continuano a migliorare, e ci son sempre strade alternative, tipo chatjimmy.ai che fa girare llama 3.1 a 15000 token/s
Nel medio periodo scendera', per lo meno a pari "intelligenza"