Discussione su questo Post

Avatar di User
Avatar di Mauro Labate

Concordo pienamente sul caso d’uso “ricerca”, per me è quello trasformativo. L’altro è la generazione immagini e video, per il testo più discutibile.

Riflettevo in questi settimane su un’altra grande differenza con la Web revolution e con la mobile revolution: AI costa cara per ogni utente. Vedo tante startup che son partite con il modello freemium che stanno correndo ai ripari da costi esorbitanti, perché vedono runway calcolate solo sui salari dei collaboratori diminuire vertiginosamente a ogni fattura di AWS/GCP/Azure. L’assumption che con le economie di scala il costo per utente è marginale non vale più qui, ma non sono in tanti ad averlo capito. Vedo numerosi investor e founder trattare le AI startup come le mobile App startup e le Web startup, bruciando soldi e sperando che con la scale si arriverà al profitto, ma non è scontato. É necessario ancora più di prima creare valore e trovare clienti che sono disposti a pagare per quel valore. I costi stanno scendendo ogni anno, ma se a ogni iterazione usiamo la capacità extra per macinare più token o per eseguire modelli più grandi, il costo / utente rimarrà elevato per lungo tempo. Inoltre gli investimenti in datacenter hardware non si ammortizzano facilmente, se NVidia rilascia un nuovo prodotto 2-3x più capable ogni 12 mesi, diventa uno spreco di risorse tenere in produzione hardware di 36 mesi fa, ma allo stesso tempo ammortizzarlo in 2-3 anni richiede prezzi dei servizi estremamente alti nonostante il progresso tecnologico.

Expand full comment

Nessun post