Fare una ricerca per il compito di storia in meno di cinque minuti, scrivere l’introduzione della tesi senza pensarci troppo? Senza dubbio per i giovani è molto difficile resistere al fascino dei modelli linguistici di grandi dimensioni (Llm), come Chat GPT, ma non sono i soli. Il boom dell’intelligenza artificiale ha affascinato gli investitori, contribuendo anche a spingere i mercati globali. Guardando al Roundhill Generative AI & Technology Etf, che comprende 25/50 società impegnate nell’AI generativa, la portata delle nuove tecnologie è molto chiara, infatti questo ha sovraperformato l’indice S&P5000 con un margine del 13% tra ottobre 2023 e marzo 2024.
Modelli linguistici di grandi dimensioni: non solo opportunità
I Llm stanno avanzando rapidamente, facendo da sfondo alla rivoluzione digitale, ma questo non significa che dietro a questo fenomeno non ci siano delle ombre ancora da affrontare. Secondo Peter Kashanek, parte del quantitative equity team di Lazard Asset Management, sono due i fattori che rendono difficile fare affidamento su questi modelli linguistici nel campo degli investimenti: il fenomeno delle cosiddette “hallucination” e l’opacità.
Da una parte, infatti, capita che i Llm presentino come fatti informazioni inventate e anche un set di dati più ampio e migliore, potrebbe non risolvere il problema. Infatti, “la natura intrinsecamente generativa e probabilistica dei Llm renda inevitabili alcune “hallucination”, anche se queste sono destinate a diminuire significativamente nel tempo”, spiega l’esperto.
Dall’altra invece, il problema dell’opacità è molto più ampio. I modelli operano, infatti, come scatole nere: sfruttano miliardi, se non trilioni, di parametri diversi e questo rende quasi impossibile la piena comprensione della loro logica interna, anche per i loro creatori. Ridurre il numero di dati utilizzati potrebbe aiutare, ma a costo della capacità. È quindi fondamentale trovare un compromesso tra scala, capacità e interpretabilità, e, in tal senso, l’opacità non è un difetto correggibile, ma una caratteristica strutturale.
Modelli linguistici di piccole dimensioni: quando meno è meglio
Ma se invece di cercare informazioni in un mare magnum di dati si partisse da un elenco di dati molto più ristretti? Nel 1949, Warren Waver pensava ai dispostivi di traduzione e si chiedeva se avere un computer in grado di tradurre solo materiale scientifico e che offrisse un risultato poco elegante potesse essere abbastanza. L’idea di avere un programma in grado di cercare nei documenti alcune parole chiave registrate in un dizionario predefinito è risultato da subito molto interessante e così, nel corso dei decenni, si sono sviluppati i Modelli linguistici di piccole dimensioni (Slm).
Questi modelli linguistici sono immuni ai due grandi rischi che caratterizzano i Llm e, infatti a parità di input producono sempre gli stessi risultati e operano come scatole di vetro, sfruttando un numero di parametri molto ridotto.
Kohei Watanabe, membro del team quantitative equity di Lazard, ha sviluppato un modello linguistico di piccole dimensioni chiamato Latent Semantic Scaling (Lss). Questo modello spiega l’esperto, “è basato su una tecnica di scaling semi-supervisionato che individua i documenti in qualsiasi lingua su criteri definiti dall’utente, combinando una tecnica di analisi semantica latente non supervisionata e una lista di ‘parole chiave’ definite dall’utente”. In poche parole, invece che basarsi unicamente sulla frequenza con cui alcune parole vengono ripetute, questa tecnica misura anche la prossimità semantica delle parole riscontrate nei documenti analizzati rispetto alle parole chiave.
Dalla teoria alla pratica: il caso cinese
Un esempio pratico di applicazione dei modelli linguistici è quello del mercato immobiliare cinese. Infatti, dalla pandemia globale, il settore immobiliare cinese sta andando a rilento, bloccando così l’economia del Paese intero. Nell’agosto del 2020, il governo di Pechino aveva annunciato la politica delle tre linee rosse, che imponeva requisiti finanziari molto rigidi per i costruttori immobiliari così da ridurre la leva finanziaria, domare i prezzi degli immobili e mitigare rischi sistemici. Da allora, però, questo settore è rimasto incastrato in un prolungato rallentamento. Per cercare di capire meglio come questa crisi finanziaria si è sviluppata e l’impatto che ha avuto anche su settori terzi, il team di Lazard ha applicato l’Lss ai bilanci annuali depositati in mandarino, analizzando circa 25mila documenti, per un totale di 6,5milioni di pagine.
Dall’analisi risulta che sono molte le aziende che hanno discusso in dettaglio questo tema, e non solo nel settore immobiliare o del credito. Anche società finanziarie e industriali hanno vissuto questa crisi come un problema fondamentale da affrontare. E, a fronte del rallentamento interno, tra queste sono molte le imprese che hanno deciso di rivolgersi ai mercati di esportazione.
Ovviamente questo è solo un esempio, ma l’idea è che nonostante gli Llm godano di dimensioni e una portata sorprendenti, la loro opacità e la loro tendenza alle “hallucination” ne limitano l’utilità nel campo degli investimenti. “Gli Slm, al contrario, forniscono risultati coerenti e tracciati, particolarmente adatti a domande altamente specifiche, come ha dimostrato il nostro caso di studio sul mercato immobiliare cinese”, conclude Peter.
Disclaimer
Questo articolo si basa su dati e informazioni che LAM considera affidabili. LAM non si assume alcuna responsabilità per la correttezza dei dati. Le dichiarazioni previsionali qui riportate rappresentano il giudizio alla data del presente articolo. Le opinioni espresse in questo articolo sono soggette a modifiche senza preavviso. Né LAM né le sue società associate accettano alcuna responsabilità per l’uso di questo articolo o del suo contenuto. Le dichiarazioni previsionali includono elementi materiali di giudizi e analisi soggettivi ed eventuali modifiche degli stessi e/o la considerazione di vari fattori aggiuntivi che possono avere un effetto materiale sui risultati menzionati. I risultati effettivi possono quindi differire materialmente da quelli contenuti nel presente articolo. Né questo articolo né il suo contenuto né una copia di questo articolo possono essere modificati in alcun modo o distribuiti o trasmessi a terzi senza la previa autorizzazione esplicita di LAM.
Solo per investitori professionali.
Lazard Asset Management (Deutschland) GmbH Milano Office, Via Dell’Orso 2 – 20121 Milano
