Dentro al team di sviluppo: il caso di studio di Snowflake spiega come fare business con l’AI

SAN FRANCISCO – Tasty Bytes è una compagnia che gestisce circa 450 food truck, che vuole integrare la “magia dell’AI” nel proprio business e che, soprattutto, non esiste. Ma serve da caso di studio a Snowflake per portarci dentro il team di sviluppo di un’azienda e mostrare come implementare l’AI per fare business e risolvere problemi.

L’AI di Snowflake al servizio del business: il caso Tasty Bytes

Durante un keynote dedicato al Data Cloud Summit 2024, l’azienda ha mostrato la semplicità con cui un cliente può facilitare la gestione dei dati non strutturati, l’analisi del sentiment dei clienti. Ma anche creare chatbot e usare le app dello Snowflake Marketplace per la gestione delle crisi reputazionali usando reti relazionali avanzate.

Jeff Hollan, che abbiamo avuto il piacere di intervistare il nostro primo giorno di Summit, spiega che questo caso di studio sull’AI diventa un’occasione di “showing, not telling” le novità di Snowflake annunciate quest’anno. E il riferimento alla massima hollywoodiana non è un caso: il caso di Tasty Bytes sembra un po’ una serie TV, arrivata alla seconda stagione dopo aver debuttato l’anno scorso.

Il viaggio AI delle aziende

Ma serve soprattutto per mostrare le capacità degli strumenti di Snowflake per il viaggio AI delle aziende. Una volta consolidata la propria strategia dati, con un un cloud unificato, si può iniziare dalla “Scoperta” di strumenti AI. Come quelli annunciati al keynote di ieri, o le novità delle oltre 400 aziende partner partecipanti al Data Cloud Summit.

C’è poi un’interessante parte di formazione, con oltre cinquanta guide “QuickStarts” e seguire oltre venticinque corsi alla Snowflake University, assieme alle certificazioni North Star, con corsi su Coursera e altre lezioni gratuite. Secondo Hollan, permettono di passare “da ‘Hello World’ a programmare app e AI con Snowflake”.

Si passa poi alla costituzione di app e chatbot, partendo da fondamenta solide, con governance e protezione dei dati. E poi con soluzioni full stack dalla Ingestion (come Snowpipe Streaming), passando per la Trasformation (con Snowpark DataFrames, Dynamic Tables), l’Advaced Analytcs, il Machine Learning (Snowpark ML, Feature Store, Model Registry), l’AI Generativa (Cortex Search e Cortex Analyst, Cortex Studio) fino alla Data Production. E poi lo Snowflake Marketplace, che oltre che alla ricerca serve anche per la distribuzione. Senza contare poi la possibilità di scalare i propri risultati cross-platform e cross-region.

Il caso di studio per l’AI Snowflake: Tasty Bytes vuole “la magia dell’AI dappertutto”

Tasty Bytes, un’immaginaria azienda di food truck con 450 mezzi, si trova ad affrontare nuove sfide in un mondo sempre più digitale e veloce, con l’obiettivo dalla dirigenza di portare “la magia dell’AI dappertutto“. Con una mole crescente di dati non strutturati provenienti da fonti diverse (tweet, ricevute, recensioni), l’azienda ha bisogno di strumenti potenti per analizzarli, migliorare prodotti e marketing, e rispondere rapidamente ai feedback dei clienti.

Il team di Tasty Bytes individua subito alcuni ostacoli: dati multilingua, necessità di accesso sicuro ai Large Language Model (LLM), pre-processing dei documenti, difficoltà nel testing dei chatbot e deployment delle soluzioni. Per affrontarli, chiede una mano a Babak Bashiri, Director of Data Engineering di Vimeo, che sta lavorando a problematiche simili.

L’esempio di Vimeo

Vimeo, infatti, gestisce enormi quantità di video, trascrizioni, commenti e messaggi non strutturati. Sicurezza, privacy e costi sono le sfide principali, insieme al rischio di “allucinazioni” degli LLM. La soluzione? Portare gli LLM ai dati, senza spostarli dal cloud sicuro di Snowflake, e monitorare spese e consumi. I dati vengono usati per alimentare il machine learning con Snowflake ML e l’AI generativa con Cortex AI, creando app dedicate per i vari team aziendali.

Forte di questi spunti, il team di Tasty Bytes si mette al lavoro. Usando Cortex LLM e Cortex Search, programma un codice che traduce le recensioni in inglese, ne analizza il sentiment con un LLM e aggrega i dati. Identifica così il food truck con le valutazioni peggiori e, grazie a Snowflake Arctic, genera via email consigli mirati per migliorare il servizio. Il tutto senza mai spostare i dati dal cloud.

Poi è la volta del chatbot, basato su un processo di Retrieve (comprensione della domanda), Augment (arricchimento) e Generate (risposta in base al contesto). Nasce così Tasty Bytes Support Chatbot, un’API che sfrutta ricerche semantiche e di keyword sui documenti per generare risposte pertinenti, integrabile in qualsiasi app. La semplicità del codice ci ha colpito: gli sviluppatori devono solo programmare “Call Cortex Search” per attivare le ricerche AI, potendo scegliere tra diversi LLM.

Il #BurritoGate

Ma le sorprese non sono finite. Quando alcuni clienti insoddisfatti iniziano a lamentarsi sui social coinvolgendo i loro amici (#BurritoGate), Tasty Bytes decide di utilizzare RelationalAI, un’app dello Snowflake Marketplace, per analizzare le relazioni tra clienti e inviare voucher mirati per riconquistare la loro fiducia, senza dover spostare o esporre i dati.

Non avendo esperienze con questo tipo di inferenze di intelligenza artificiale, il team di Tasty Bytes chiede aiuto a Cristian Figueroa di Cash App, esperto di Network Science. Figueroa spiega che non solo gli amici, ma anche gli amici degli amici influenzano il nostro comportamento, moltiplicando esponenzialmente le interazioni. Grazie a RelationAI, Cash App riesce a mappare queste connessioni e a individuare le comunità di clienti. Informazioni preziose per definire strategie di marketing mirate. E che Tasty Bytes può usare per contenere i danni reputazionali.

Il team di Tasty Bytes utilizza RelationAI, facendola “girare” direttamente nel proprio account del Data Cloud di Snowflake, senza dover spostare o esporre i propri dati. Questo permette di costruire grafici relazionali complessi, che strutturano i clienti in gruppi di influenza. Che, una volta estratti in semplici tabelle, il team di marketing può raggiungere con offerta atte a ridurre l’effetto dei burrito troppo freddi di #BurritoGate.

Il caso di studio di Tasty Bytes dimostra come l’AI di Snowflake, grazie a strumenti come Cortex, Snowflake ML, Arctic e le app del Marketplace, possa aiutare le aziende a estrarre valore dal proprio patrimonio di dati, strutturati e non, senza comprometterne sicurezza e privacy.

Un caso di studio, per mostrare le opportunità dell’AI Snowflake per fare business

La simulazione sul palco di Snowflake ha riassunto in minuti quello che per alcuni team di sviluppo richiede settimane di riunioni, discussioni, decisioni. Ma vuole sottolineare una cosa importante: la tecnologia non deve essere un ulteriore attrito.

Fare business richiede attenzione e abnegazione, quindi rimuovere gli ostacoli tecnici fa la differenza. Il fatto che quasi tutte le simulazioni siano arrivate in diretta (con gli intoppi e gli errori di battitura che ne derivano), ci sembra una buona indicazione della semplicità di questi strumenti. Nessun team lavora in maniera ideale come quello di Tasty Bytes. Ma questo caso di studio ci ha permesso di vedere cosa c’è dietro alla “magia dell’AI“. Trovate tutte le soluzioni discusse nel caso di studio sul sito di Snowflake.

Offerta

AI and Machine Learning for Coders: A Programmer's Guide to Artificial Intelligence

• Moroney, Laurence (Autore)

54,95 EUR

Acquista su Amazon