Da 0 a 1 al livello aziendale con MongoDB Atlas e gli LLM

David Macias

Creare esperienze avvincenti e veramente differenziate per i clienti grazie ad applicazioni di IA generativa arricchite significa basare l'intelligenza artificiale su informazioni affidabili. Questa verità deriva dai tuoi dati e, nello specifico, dai tuoi dati operativi più aggiornati. Che tu stia fornendo esperienze iper-personalizzate con ricerca semantica avanzata o producendo contenuti e conversazioni guidati dai prompt degli utenti, MongoDB Atlas unifica servizi di dati operativi, di analisi e di ricerca vettoriale per semplificare l'integrazione della potenza degli LLM e dei modelli di trasformazione nelle tue app.

Ogni giorno, gli sviluppatori creano una nuova applicazione rivoluzionaria e trasformativa basata sull'IA generativa, gli LLM commerciali e open source avanzano a una velocità vertiginosa e i framework e gli strumenti per costruire attorno ad essi aumentano e democratizzano l’innovazione. Eppure, portare queste applicazioni dal prototipo al livello aziendale è un divario che i team di sviluppo devono superare. Innanzitutto, questi modelli di grandi dimensioni possono fornire risposte errate o non informate, perché i dati a cui hanno accesso sono obsoleti. Esistono due opzioni per risolvere la comparsa di risposte non informate: mettere a punto un modello di grandi dimensioni o fornirgli una memoria a lungo termine. Tuttavia, questo comporta un secondo ostacolo: l'implementazione di un'applicazione attorno a un LLM informato, con i giusti controlli di sicurezza e con la scala e le prestazioni che gli utenti si aspettano.

Gli sviluppatori hanno bisogno di una piattaforma dati che disponga della flessibilità del modello di dati per adattarsi alla continua evoluzione dei dati strutturati e non che informano i modelli di grandi dimensioni, senza l'ostacolo di schemi rigidi. Sebbene la messa a punto di un modello sia un'opzione, è proibitiva sia in termini di tempo che risorse computazionali. Ciò significa che gli sviluppatori devono essere in grado di presentare i dati come contesto a modelli di grandi dimensioni come parte dei prompt e dare a questi modelli generativi una memoria a lungo termine. Di seguito, analizzeremo alcuni esempi di come riuscirci con vari LLM e framework di IA generativa.

Consulta la nostra pagina delle risorse sull'intelligenza artificiale per saperne di più sulla creazione di app basate sull'IA con MongoDB.

Cinque risorse per iniziare con MongoDB Atlas e gli LLM

MongoDB Atlas semplifica l'integrazione dei principali servizi e sistemi di IA generativa, come gli hyperscaler e i framework e LLM open source. Combinando archivi di dati con incorporamento di documenti e vettori in un unico posto tramite Atlas Database e Atlas Vector Search (anteprima), gli sviluppatori possono accelerare la creazione delle loro applicazioni arricchite dall'IA generativa basate sulle informazioni affidabili dei dati operativi. Ecco alcuni esempi su come lavorare con i più framework LLM più diffusi e MongoDB:

1. Inizia con Atlas Vector Search (anteprima) e OpenAI per la ricerca semantica

Questo tutorial illustra le fasi di esecuzione della ricerca semantica su un set di dati di esempio sui film con MongoDB Atlas. Innanzitutto, configura un Atlas Trigger per effettuare una chiamata all'API OpenAI ogni volta che un nuovo documento viene inserito nel tuo cluster, per trasformarlo in un incorporamento vettoriale. Quindi, esegui una query di ricerca vettoriale utilizzando Atlas Vector Search. C'è anche una sezione bonus speciale per sfruttare i modelli HuggingFace. Leggi il tutorial.

2. Crea un'app di chat arricchita con IA generativa con i tuoi dati proprietari utilizzando Llamalndex e MongoDB

LlamaIndex fornisce un'interfaccia semplice e flessibile per collegare gli LLM con dati esterni. Questo blog congiunto di LlamaIndex e MongoDB approfondisce i motivi e le modalità con cui creare la tua app di chat. Il file di note allegato al blog fornisce una procedura dettagliata sul codice che spiega come eseguire le query su qualsiasi documento PDF utilizzando query in lingua inglese. Leggi il blog.

3. Vedi i documenti su come utilizzare Atlas Vector Search (anteprima) come archivio di vettori con LangChain

Come si legge nel post di annuncio della partnership, LangChain e MongoDB Atlas sono un binomio naturale, dimostrato anche dall'entusiasmo unanime della comunità che ha portato a diverse integrazioni di LangChain per MongoDB. Oltre a supportare Atlas Vector Search come archivio di vettori, è già possibile utilizzare MongoDB come cronologia dei log di chat. Leggi i documenti: python, javascript.

4. Genera previsioni direttamente in MongoDB Atlas con MindsDB AI Collections

MindsDB è una piattaforma di machine learning open source che porta il machine learning automatico nel database. In questo blog genererai previsioni direttamente in Atlas con MindSDB AI Collections, per utilizzare le previsioni come dati regolari, interrogare queste previsioni e accelerare la velocità di sviluppo semplificando i flussi di lavoro di implementazione. Leggi il blog.

5. Integra i modelli di trasformazione di HuggingFace in MongoDB Atlas con Atlas Triggers

HuggingFace è una community di IA che semplifica la creazione, l'addestramento e l'implementazione di modelli di machine learning. L'utilizzo di Atlas Triggers insieme a HuggingFace permette di reagire facilmente ai cambiamenti nei dati operativi che creano la memoria a lungo termine dei tuoi modelli. Scopri come configurare le attivazioni per prevedere automaticamente il sentiment dei nuovi documenti nel database MongoDB e aggiungerle come campi aggiuntivi nei documenti. Vedi il repository GitHub.

Figura 1: L'architettura dell'app di esempio mostra in che modo i dati, esterni o proprietari, forniscono memoria a lungo termine a un LLM e come i dati fluiscono dall'input di un utente a una risposta basata su LLM.

Dal prototipo alla produzione con MongoDB, per app arricchite con IA generativa

La piattaforma dati per sviluppatori di MongoDB, basata su Atlas, offre un'esperienza moderna e ottimizzata agli sviluppatori, ed è stata testata da migliaia di aziende in tutto il mondo per garantire prestazioni sicure e su larga scala.

Se stai per fare il prossimo grande passo in una startup o in un'azienda, Atlas ti consente di:

  • Accelera la creazione delle tue applicazioni arricchite dall'IA generativa basate sulle informazioni affidabili dei dati operativi.

  • Semplifica l'architettura delle tue app sfruttando un'unica piattaforma che consente di archiviare app e dati vettoriali nello stesso posto, reagire alle modifiche dei dati di origine con funzioni serverless e cercare tra più modalità di dati per migliorare la pertinenza e l'accuratezza nelle risposte generate.

  • Evolvi facilmente le tue app arricchite dall'IA generativa con la flessibilità del modello di documento, mantenendo un'esperienza di sviluppo semplice ed elegante.

  • Integra perfettamente i principali servizi e sistemi di IA, come hyperscaler, LLM e framework open source, per rimanere competitivo nei mercati dinamici.

  • Costruisci applicazioni arricchite dall'IA generativa su un database operativo ad alte prestazioni e altamente scalabile con dieci anni di convalida su un'ampia gamma di casi d'uso dell'IA.

Sebbene questi esempi siano solo gli elementi di base di qualcosa di più innovativo, MongoDB può aiutarti a passare dall'ideazione alla produzione fino alla scalabilità. Inizia subito iscrivendoti al livello gratuito di MongoDB Atlas e integrandolo con i tuoi framework e LLM preferiti. Se sei interessato a lavorare con noi più da vicino, dai un'occhiata al nostro programma MongoDB AI Innovators, che abilita l'innovazione dell'intelligenza artificiale e mette in mostra soluzioni di startup, clienti e partner all'avanguardia.