Aziende e AI generativa, cosa cambia 

Indice

• I manager e la AI generativa
• I vantaggi per le start up di AI
• Risorse: i budget stanno crescendo e sono destinati a rimanere
  • Allocazione dei budget per l’AI
  • Misurare il ROI è ancora un’arte e una scienza
• L’implementazione e la scalabilità dell’IA generativa 
• Un futuro multi-modello
  • I modelli open source
  • Casi d’uso
  • Aziende e AI: problematiche algoritmiche
  • Dimensione dell’opportunità totale: massiccia e in rapida crescita

Quali sono i cambiamenti aziendali a cui stiamo assistendo e che dipendono dalla nuova implementazione dell’AI generativa?

Nel 2023 l’IA generativa ha preso d’assalto il panorama dei consumatori, raggiungendo oltre un miliardo di dollari di spesa dei consumatori in tempi record. Nel 2024, si ritiene che le opportunità di guadagno saranno moltiplicate da parte delle aziende. L’anno scorso, mentre i consumatori trascorrevano ore a chattare con i nuovi tool di intelligenza artificiale o a realizzare immagini e video con MidJourney e Stable Diffusion, la maggior parte dell’impegno che dedicava un’azienda ai temi legati alla genAI sembrava limitato a una manciata di casi d’uso molto banali. 

Alcuni oppositori dubitavano che la genAI potesse diventare un business scalabile per le aziende. “Non siamo bloccati sempre sugli stessi casi d’uso? Queste startup possono davvero fare soldi? Non è tutto hype?”

I manager e la AI generativa

Negli ultimi mesi, sono stati intervistati decine di leader e manager aziendali per capire come stanno utilizzando, acquistando e pianificando il budget per l’IA generativa. È impressionante quanto significativamente siano cambiate le risorse e gli atteggiamenti nei confronti di genAI negli ultimi sei mesi leggendo tutti questi articoli e queste interviste. Sebbene molti manager abbiano ancora alcune riserve sull’implementazione dell’IA generativa, stanno anche aumentando i loro budget, espandendo il numero di casi d’uso distribuiti su modelli open source più piccoli e trasferendo più carichi di lavoro dalla sperimentazione iniziale alla produzione. 

I vantaggi per le start up di AI

Questa è un’enorme opportunità per molte start up legate alla AI perché possono da tutto ciò ricavare alcune considerazioni: 

1) diventano fornitrici per le iniziative strategiche incentrate sull’intelligenza artificiale delle aziende anticipandone i punti deboli 

2) passano da un approccio basato sui servizi alla creazione di prodotti scalabili, catturando questa nuova ondata di investimenti si ritagliano una quota di mercato significativa.

Come sempre, la creazione e la vendita di qualsiasi prodotto per l’azienda richiede una profonda comprensione dei budget, delle preoccupazioni e delle roadmap dei clienti. 

Proviamo a capire in che modo i manager aziendali prendono decisioni sull’implementazione dell’IA generativa e come i dirigenti dell’IA affrontano la propria concorrenza cercando risposte su risorse, modelli e casi d’uso dalle interviste che passano quotidianamente su tutti i mezzi di comunicazione.

Risorse: i budget stanno crescendo e sono destinati a rimanere

Nel 2023, da una ricerca di Andreessen Horowitz, una società di venture capital americana che sostiene imprenditori che costruiscono il futuro attraverso la tecnologia, la spesa media per le API del modello di base, il self-hosting e i modelli di messa a punto è stata di 7 milioni di dollari per dozzine di aziende americane. Inoltre, quasi tutte le aziende hanno visto i primi risultati promettenti degli esperimenti di genAI e hanno pianificato di aumentare la loro spesa da 2 a 5 volte nel 2024 per supportare l’implementazione di più carichi di lavoro in produzione.

Allocazione dei budget per l’AI

I manager hanno iniziato a riallocare gli investimenti nell‘IA alle linee di budget software ricorrenti.

Nel 2024 molti manager hanno allocato la spesa per la GenAI a voci software più permanenti ed esistono già budget per l’innovazione. Su scala molto più ridotta, si è anche iniziato a vedere che alcuni manager impiegassero il loro budget genAI per risparmiare sull’organico, in particolare nel servizio clienti. Forse questo è un presagio di una spesa futura significativamente più elevata per la genAI, se la tendenza dovesse continuare. 

Misurare il ROI è ancora un’arte e una scienza

Attualmente, i manager aziendali misurano principalmente il ROI in base all’aumento della produttività generato dall’intelligenza artificiale. Sebbene si affidino all’NPS (net promoter score) e alla soddisfazione dei clienti come buone metriche, sono anche alla ricerca di modi più tangibili per misurare i rendimenti, come la generazione di entrate, il risparmio, l’efficienza e l’aumento della precisione, a seconda del loro caso d’uso. 

A breve termine, i manager implementeranno questa tecnologia e cercando di capire quali siano le migliori metriche da utilizzare per quantificare i rendimenti e, nei prossimi 2 o 3 anni, il ROI sarà sempre più importante. Mentre i manager stanno cercando di capire la risposta a questa domanda, molti la prendono per buona quando i loro dipendenti dicono che stanno facendo un uso migliore del loro tempo.

L’implementazione e la scalabilità dell’IA generativa

L’implementazione e la scalabilità dell’IA generativa richiedono il giusto talento tecnico che spesso non è interno a molte aziende. La semplice disponibilità di un’API per un fornitore di modelli non è sufficiente per creare e distribuire soluzioni di intelligenza artificiale generativa su larga scala. Ci vogliono talenti altamente specializzati per implementare, mantenere e scalare l’infrastruttura di elaborazione necessaria. L’implementazione da sola ha rappresentato una delle maggiori aree di spesa per l’IA nel 2023 ed è stata, in alcuni casi, la più grande. 

Al fine di aiutare le aziende a iniziare a lavorare sui loro modelli, i fornitori di modelli di base hanno offerto e continuano a fornire servizi professionali, in genere correlati allo sviluppo di modelli personalizzati. Si stima che questo abbia rappresentato una parte considerevole delle entrate per queste aziende nel 2023 e, oltre alle prestazioni, è uno dei motivi principali per cui le aziende hanno selezionato determinati fornitori di modelli. Poiché è così difficile avere e ottenere expertise sulla  genAI nell’azienda, le startup che offrono strumenti per rendere più facile portare lo sviluppo genAI all’interno dell’azienda probabilmente vedranno un’adozione più rapida. 

Un futuro multi-modello

Poco più di 6 mesi fa, la stragrande maggioranza delle aziende stava sperimentando 1 modello (di solito quello di OpenAI) o 2 al massimo. Oggi invece, gli stessi manager hanno testato e, in alcuni casi, anche utilizzato in produzione più modelli, il che consente loro di:

1) adattarsi ai casi d’uso in base a prestazioni, dimensioni e costi, 

2) evitare di farsi “imprigionare” da un unico modello 

3) attingere rapidamente ai progressi in un campo in rapida evoluzione. Questo terzo punto è stato particolarmente importante per i manager poiché la serie di possibilità esistenti è dinamica e le aziende sono entusiaste di incorporare sia gli attuali modelli all’avanguardia che i modelli open source per ottenere i migliori risultati.

I modelli open source

I modelli open source hanno riscontrato un buon successo anche nelle aziende e il costo ha influito sull’attrattiva, ma il vero successo è stato decretato dal fatto che questi modelli hanno anche rispettato altri criteri fondamentali: il controllo e la personalizzazione.

Il controllo (sicurezza dei dati proprietari e comprensione del motivo per cui i modelli producono determinati output) e la personalizzazione (capacità di mettere a punto in modo efficace un determinato caso d’uso) hanno superato di gran lunga i costi come motivi principali per adottare l’open source. È sorprendente che il costo non sia in cima ai pensieri dei manager, ma riflette l’attuale convinzione della leadership che il grande valore creato dall’IA generativa probabilmente supererà di gran lunga il suo prezzo. 

Casi d’uso

Il desiderio di controllo deriva da casi d’uso sensibili e problemi di sicurezza dei dati aziendali.

Le aziende non si sentono ancora a proprio agio nel condividere i propri dati proprietari con fornitori di modelli closed-source per problemi normativi o di sicurezza dei dati e, ovviamente, le aziende la cui proprietà intellettuale è centrale per il loro modello di business sono particolarmente conservatrici. 

I manager in genere hanno personalizzato i modelli attraverso la messa a punto invece di creare modelli da zero. Nel 2023 si è discusso molto della creazione di modelli personalizzati. Nel 2024, le aziende sono ancora interessate alla personalizzazione dei modelli, ma con l’ascesa di modelli open source di alta qualità, la maggior parte sceglie di non addestrare il proprio LLM da zero e utilizza invece la generazione aumentata di recupero (RAG) o mette a punto un modello open source per le proprie esigenze specifiche.

Le aziende stanno ora costruendo le proprie versioni di casi d’uso familiari, come l’assistenza clienti e i chatbot interni, sperimentando anche casi d’uso più nuovi, come, per esempio, la scrittura di ricette o restringendo il campo per la scoperta di molecole e fornendo raccomandazioni di vendita. I manager sono molto contenti dei casi d’uso interni, ma rimangono più cauti nei confronti di quelli esterni.

Aziende e AI: problematiche algoritmiche

Questo a causa di 2 preoccupazioni primarie sulla genAI che incombono ancora:

1) potenziali problemi di allucinazione e sicurezza  

2) problemi di pubbliche relazioni con l’implementazione della genAI, in particolare in settori di consumo sensibili (ad esempio, sanità e servizi finanziari). 

I casi d’uso più popolari dell’ultimo anno si sono concentrati sulla produttività interna o sono stati instradati attraverso un essere umano prima di arrivare a un cliente, come l’assistenza clienti e il marketing. Questi casi d’uso sono ancora dominanti nelle aziende nel 2024, con le aziende che spingono casi d’uso totalmente interni come il riassunto del testo e la gestione delle conoscenze (ad esempio, chatbot interni) alla produzione a tassi molto più elevati rispetto ai casi d’uso sensibili come la revisione dei contratti o ai casi d’uso rivolti ai clienti come i chatbot esterni o gli algoritmi di raccomandazione. 

Dimensione dell’opportunità totale: massiccia e in rapida crescita

Si ritiene che la spesa totale per le API del modello e la messa a punto crescerà fino a oltre 5 miliardi di dollari entro la fine del 2024 e la spesa aziendale costituirà una parte significativa di questa opportunità.

Negli ultimi sei mesi, le aziende stanno attivamente cercando per implementazioni e soluzioni genAI. Le trattative che prima richiedevano più di un anno per essere chiuse vengono portate a termine in 2 o 3 mesi, e quelle offerte sono molto più grandi di quanto non siano state in passato.  Siamo a un punto di svolta nella generazione di intelligenza artificiale in azienda e dobbiamo assolutamente arrivarci preparati!