혁신적 성장을 지원하는 MongoDB Atlas와 LLM

David Macias
June 22, 2023 | Updated: January 31, 2024

생성형 AI 기반 애플리케이션에서 고객을 위한 매력적이고 차별화된 경험을 구축하려면 인공 지능의 기반을 진실에 둬야 합니다. 이러한 진실은 데이터, 더 구체적으로 말하면 가장 최신 버전의 운영 데이터에서 비롯됩니다. 고급 시맨틱 검색을 통해 초개인화된 경험을 제공할 때든, 사용자 콘텐츠와 대화를 생성할 때든, MongoDB Atlas는 운영, 분석, 벡터 검색 데이터 서비스를 통합해 LLM과 트랜스포머 모델의 강력한 기능을 앱에 삽입하는 작업을 간소화해줍니다.

개발자들은 매일 획기적이고 혁신적인 차세대 생성형 AI 기반 애플리케이션을 구축합니다. 상업적인 오픈 소스 LLM은 엄청난 속도로 발전하고 있습니다. 이를 기반으로 구축할 수 있는 프레임워크와 도구는 매우 다양하고, 이러한 프레임워크와 도구는 혁신을 민주화합니다. 하지만 개발팀이 반드시 메워야 할 간극이 있습니다. 바로 이러한 애플리케이션을 프로토타입에서 엔터프라이즈급 애플리케이션으로 발전시키는 것입니다. 먼저, 이러한 거대 모델이 액세스할 수 있는 데이터는 최신 정보가 아닙니다. 따라서 모델이 부정확하거나 정보에 기반하지 않은 답변을 제공할 수 있습니다. 답변이 정보에 기반하지 않는 문제를 해결할 수 있는 옵션에는 두 가지가 있습니다. 하나는 거대 모델을 세세하게 조정하는 것이고, 다른 하나는 거대 모델에 장기 메모리를 제공하는 것입니다. 하지만 이러한 옵션을 사용할 경우 두 번째 장벽이 생깁니다. 바로 적절한 보안 제어 기능을 탑재하고 있고 사용자가 기대하는 규모와 성능으로 정보를 학습시킨 LLM을 기반으로 애플리케이션을 배포해야 한다는 것입니다.

경직된 스키마의 방해 없이 거대 모델 학습에 필요한 끊임없이 변화하는 비정형 데이터와 정형 데이터에 적응하려면 개발자에게 데이터 모델 유연성을 갖춘 데이터 플랫폼이 필요합니다. 비록 모델을 세세하게 조정하는 것은 선택 사항이지만, 이 작업은 시간과 컴퓨팅 리소스 측면에서 엄청난 비용을 초래합니다. 즉, 개발자는 거대 모델에 프롬프트의 일부로 문맥을 제공하는 데이터를 제시할 수 있어야 하고, 생성형 모델에 장기 메모리를 제공해야 합니다. 아래에서 다양한 LLM과 생성형 AI 프레임워크를 사용해 이를 가능하게 하는 방법을 살펴보도록 하겠습니다.

MongoDB로 AI 기반 앱을 구축하는 방법은 AI 자료 페이지에서 더 자세히 확인할 수 있습니다.

MongoDB Atlas와 거대 언어 모델 입문을 위한 5가지 자료

MongoDB Atlas를 사용하면 하이퍼스케일러, 오픈 소스 LLM, 프레임워크 같은 선도적인 생성형 AI 서비스와 시스템을 원활하게 통합할 수 있습니다. 개발자는 Atlas Database와 Atlas Vector Search(프리뷰)를 통해 문서 저장소와 벡터 임베딩 데이터 저장소를 한 곳에 결합해 운영 데이터의 진실을 기반으로 하는 생성형 AI 기반 애플리케이션 구축을 가속화할 수 있습니다. 아래 예시에서 보편적으로 사용되는 LLM 프레임워크와 MongoDB를 사용해 이를 가능하게 하는 방법을 살펴보겠습니다.

1. Atlas Vector Search(프리뷰)와 시맨틱 검색용 OpenAI 시작하기

이 튜토리얼에는 MongoDB Atlas를 사용해 샘플 영화 데이터 세트에서 시맨틱 검색을 수행하는 단계가 설명되어 있습니다. 먼저, 새 문서가 클러스터에 삽입될 때마다 OpenAI API를 호출해 벡터 임베딩으로 변환하도록 Atlas 트리거를 설정합니다. 그다음, Atlas Vector Search를 사용해 벡터 검색 쿼리를 수행합니다. HuggingFace 모델을 활용하는 방법을 알려주는 특별 보너스 섹션도 마련되어 있습니다. 튜토리얼 살펴보기

2. Llamalndex와 MongoDB를 사용해 독점 데이터로 생성형 AI 기반 채팅 앱 구축하기

LlamaIndex는 LLM을 외부 데이터와 연결할 수 있는 간단하고 유연한 인터페이스를 제공합니다. LlamaIndex와 MongoDB가 함께 운영하는 이 블로그에서는 맞춤형 채팅 앱을 구축해야 하는 이유와 그 방법을 자세히 살펴볼 수 있습니다. 블로그에 첨부된 노트에는 영어 쿼리를 사용해 모든 PDF 문서를 조회하는 방법을 배울 수 있는 코드가 설명되어 있습니다. 블로그 보기

3. Atlas Vector Search(프리뷰)를 LangChain의 벡터 저장소로 사용하는 방법에 관한 문서

파트너십 발표에 관한 블로그 게시물에서 언급한 것처럼 LangChain과 MongoDB Atlas는 서로 잘 어울리는 조합입니다. 커뮤니티에서 유기적으로 발생한 열정이 LangChain에서 여러 가지 MongoDB 통합을 지원하는 것으로 이어졌다는 사실이 이를 증명합니다. MongoDB를 채팅 로그 기록으로 활용하도록 지원하는 기존 통합에 더불어 이제 Atlas Vector Search를 Vector Store로 활용하는 기능도 지원됩니다. 문서 읽기: python, javascript

4. MindsDB AI Collections를 사용해 MongoDB Atlas에서 바로 예측 생성하기

MindsDB는 자동화된 머신 러닝을 데이터베이스에 제공하는 오픈 소스 머신 러닝 플랫폼입니다. 이 블로그에서는 MindsDB AI Collections를 사용해 Atlas에서 바로 예측을 생성하며 예측을 일반 데이터처럼 사용하고, 이러한 예측을 조회하며, 배포 워크플로를 간소화해 개발 속도를 가속화하는 역량을 키울 수 있습니다. 블로그 보기

5. Atlas 트리거를 사용해 HuggingFace 트랜스포머 모델을 MongoDB Atlas에 통합하기

HuggingFace는 머신 러닝 모델을 간편하게 구축하고, 학습시키고, 배포할 수 있는 AI 커뮤니티입니다. HuggingFace와 Atlas 트리거를 함께 사용하면 모델에 장기 메모리를 제공하는 운영 데이터의 변경 사항에도 쉽게 대응할 수 있습니다. MongoDB 데이터베이스에 저장된 새 문서의 분위기를 자동으로 예측하고 문서에 추가 필드로 추가하도록 트리거를 설정하는 방법을 살펴보세요. GitHub 리포지토리 보기

그림 1: 외부 데이터 또는 독점 데이터로 LLM에 장기 메모리를 제공하는 방법과 사용자가 입력한 질문에서부터 LLM 기반 응답까지의 데이터 흐름을 보여주는 샘플 앱 아키텍처

생성형 AI 기반 앱의 프로토타입에서부터 프로덕션까지, MongoDB와 함께

Atlas를 기반으로 구축된 MongoDB의 개발자 데이터 플랫폼은 현대적이고 최적화된 개발자 경험을 제공하는 동시에 전 세계 수천 개의 엔터프라이즈에서 확장 가능한 안전한 성능을 발휘할 수 있도록 철저한 테스트를 거쳤습니다.

Atlas는 스타트업에서부터 대기업까지 차세대 혁신을 구축 중인 기업에 다음과 같은 이점을 제공합니다.

실제 운영 데이터를 기반으로 하는 생성형 AI 기반 애플리케이션을 빠르게 구축할 수 있습니다.
앱과 벡터 데이터를 한 공간에 저장하고, 서버리스 함수를 사용해 소스 데이터의 변경 사항에 대응하고, 모든 데이터 형식에서 검색을 실행해 앱이 생성하는 응답의 관련성과 정확성을 개선하도록 지원하는 단일 플랫폼을 활용해 앱 아키텍처를 간소화할 수 있습니다.
문서 모델의 유연성을 활용해 차세대 생성형 AI 기반 앱을 간편하게 개발하는 동시에 단순하고 세련된 개발자 경험을 유지할 수 있습니다.
하이퍼스케일러, 오픈 소스 LLM, 프레임워크 등의 선도적인 AI 서비스와 시스템을 원활하게 통합해 역동적인 시장에서 경쟁력을 유지할 수 있습니다.
지난 10년간 다양한 AI 사용 사례를 통해 검증된 확장성이 뛰어난 고성능 운영 데이터베이스에서 생성형 AI 기반 애플리케이션을 구축할 수 있습니다.

이러한 예시는 더 혁신적인 앱을 개발하는 데 필요한 요소로, MongoDB는 콘셉트 구상에서 프로덕션, 확장에 이르기까지 모든 단계를 지원합니다. 지금 바로 MongoDB Atlas 무료 티어에 가입해 원하는 프레임워크와 LLM을 통합하세요. MongoDB와 더 긴밀하게 협력하고 싶다면 인공지능 혁신을 지원하고 스타트업, 고객, 파트너의 최첨단 솔루션을 소개하는 MongoDB AI 이노베이터 프로그램을 살펴보세요.

← Previous

Da 0 a 1 al livello aziendale con MongoDB Atlas e gli LLM

Creare esperienze avvincenti e veramente differenziate per i clienti grazie ad applicazioni di IA generativa arricchite significa basare l'intelligenza artificiale su informazioni affidabili. Questa verità deriva dai tuoi dati e, nello specifico, dai tuoi dati operativi più aggiornati. Che tu stia fornendo esperienze iper-personalizzate con ricerca semantica avanzata o producendo contenuti e conversazioni guidati dai prompt degli utenti, MongoDB Atlas unifica servizi di dati operativi, di analisi e di ricerca vettoriale per semplificare l'integrazione della potenza degli LLM e dei modelli di trasformazione nelle tue app. Ogni giorno, gli sviluppatori creano una nuova applicazione rivoluzionaria e trasformativa basata sull'IA generativa, gli LLM commerciali e open source avanzano a una velocità vertiginosa e i framework e gli strumenti per costruire attorno ad essi aumentano e democratizzano l’innovazione. Eppure, portare queste applicazioni dal prototipo al livello aziendale è un divario che i team di sviluppo devono superare. Innanzitutto, questi modelli di grandi dimensioni possono fornire risposte errate o non informate, perché i dati a cui hanno accesso sono obsoleti. Esistono due opzioni per risolvere la comparsa di risposte non informate: mettere a punto un modello di grandi dimensioni o fornirgli una memoria a lungo termine. Tuttavia, questo comporta un secondo ostacolo: l'implementazione di un'applicazione attorno a un LLM informato, con i giusti controlli di sicurezza e con la scala e le prestazioni che gli utenti si aspettano. Gli sviluppatori hanno bisogno di una piattaforma dati che disponga della flessibilità del modello di dati per adattarsi alla continua evoluzione dei dati strutturati e non che informano i modelli di grandi dimensioni, senza l'ostacolo di schemi rigidi. Sebbene la messa a punto di un modello sia un'opzione, è proibitiva sia in termini di tempo che risorse computazionali. Ciò significa che gli sviluppatori devono essere in grado di presentare i dati come contesto a modelli di grandi dimensioni come parte dei prompt e dare a questi modelli generativi una memoria a lungo termine. Di seguito, analizzeremo alcuni esempi di come riuscirci con vari LLM e framework di IA generativa. Consulta la nostra pagina delle risorse sull'intelligenza artificiale per saperne di più sulla creazione di app basate sull'IA con MongoDB. Cinque risorse per iniziare con MongoDB Atlas e gli LLM MongoDB Atlas semplifica l'integrazione dei principali servizi e sistemi di IA generativa, come gli hyperscaler e i framework e LLM open source. Combinando archivi di dati con incorporamento di documenti e vettori in un unico posto tramite Atlas Database e Atlas Vector Search (anteprima), gli sviluppatori possono accelerare la creazione delle loro applicazioni arricchite dall'IA generativa basate sulle informazioni affidabili dei dati operativi. Ecco alcuni esempi su come lavorare con i più framework LLM più diffusi e MongoDB: 1. Inizia con Atlas Vector Search (anteprima) e OpenAI per la ricerca semantica Questo tutorial illustra le fasi di esecuzione della ricerca semantica su un set di dati di esempio sui film con MongoDB Atlas. Innanzitutto, configura un Atlas Trigger per effettuare una chiamata all'API OpenAI ogni volta che un nuovo documento viene inserito nel tuo cluster, per trasformarlo in un incorporamento vettoriale. Quindi, esegui una query di ricerca vettoriale utilizzando Atlas Vector Search. C'è anche una sezione bonus speciale per sfruttare i modelli HuggingFace. Leggi il tutorial . 2. Crea un'app di chat arricchita con IA generativa con i tuoi dati proprietari utilizzando Llamalndex e MongoDB LlamaIndex fornisce un'interfaccia semplice e flessibile per collegare gli LLM con dati esterni. Questo blog congiunto di LlamaIndex e MongoDB approfondisce i motivi e le modalità con cui creare la tua app di chat. Il file di note allegato al blog fornisce una procedura dettagliata sul codice che spiega come eseguire le query su qualsiasi documento PDF utilizzando query in lingua inglese. Leggi il blog . 3. Vedi i documenti su come utilizzare Atlas Vector Search (anteprima) come archivio di vettori con LangChain Come si legge nel post di annuncio della partnership, LangChain e MongoDB Atlas sono un binomio naturale, dimostrato anche dall'entusiasmo unanime della comunità che ha portato a diverse integrazioni di LangChain per MongoDB. Oltre a supportare Atlas Vector Search come archivio di vettori, è già possibile utilizzare MongoDB come cronologia dei log di chat. Leggi i documenti: python , javascript . 4. Genera previsioni direttamente in MongoDB Atlas con MindsDB AI Collections MindsDB è una piattaforma di machine learning open source che porta il machine learning automatico nel database. In questo blog genererai previsioni direttamente in Atlas con MindSDB AI Collections, per utilizzare le previsioni come dati regolari, interrogare queste previsioni e accelerare la velocità di sviluppo semplificando i flussi di lavoro di implementazione. Leggi il blog . 5. Integra i modelli di trasformazione di HuggingFace in MongoDB Atlas con Atlas Triggers HuggingFace è una community di IA che semplifica la creazione, l'addestramento e l'implementazione di modelli di machine learning. L'utilizzo di Atlas Triggers insieme a HuggingFace permette di reagire facilmente ai cambiamenti nei dati operativi che creano la memoria a lungo termine dei tuoi modelli. Scopri come configurare le attivazioni per prevedere automaticamente il sentiment dei nuovi documenti nel database MongoDB e aggiungerle come campi aggiuntivi nei documenti. Vedi il repository GitHub . Figura 1: L'architettura dell'app di esempio mostra in che modo i dati, esterni o proprietari, forniscono memoria a lungo termine a un LLM e come i dati fluiscono dall'input di un utente a una risposta basata su LLM. Dal prototipo alla produzione con MongoDB, per app arricchite con IA generativa La piattaforma dati per sviluppatori di MongoDB, basata su Atlas, offre un'esperienza moderna e ottimizzata agli sviluppatori, ed è stata testata da migliaia di aziende in tutto il mondo per garantire prestazioni sicure e su larga scala. Se stai per fare il prossimo grande passo in una startup o in un'azienda, Atlas ti consente di: Accelera la creazione delle tue applicazioni arricchite dall'IA generativa basate sulle informazioni affidabili dei dati operativi. Semplifica l'architettura delle tue app sfruttando un'unica piattaforma che consente di archiviare app e dati vettoriali nello stesso posto, reagire alle modifiche dei dati di origine con funzioni serverless e cercare tra più modalità di dati per migliorare la pertinenza e l'accuratezza nelle risposte generate. Evolvi facilmente le tue app arricchite dall'IA generativa con la flessibilità del modello di documento, mantenendo un'esperienza di sviluppo semplice ed elegante. Integra perfettamente i principali servizi e sistemi di IA, come hyperscaler, LLM e framework open source, per rimanere competitivo nei mercati dinamici. Costruisci applicazioni arricchite dall'IA generativa su un database operativo ad alte prestazioni e altamente scalabile con dieci anni di convalida su un'ampia gamma di casi d'uso dell'IA. Sebbene questi esempi siano solo gli elementi di base di qualcosa di più innovativo, MongoDB può aiutarti a passare dall'ideazione alla produzione fino alla scalabilità. Inizia subito iscrivendoti al livello gratuito di MongoDB Atlas e integrandolo con i tuoi framework e LLM preferiti. Se sei interessato a lavorare con noi più da vicino, dai un'occhiata al nostro programma MongoDB AI Innovators , che abilita l'innovazione dell'intelligenza artificiale e mette in mostra soluzioni di startup, clienti e partner all'avanguardia.

June 22, 2023

Next →

MongoDB Database Observability: Integrating with Monitoring Tools

This post is the final in a three-part series on leveraging database observability. Welcome back to our series on Leveraging Database Observability! Our previous post showcased a real-world use case highlighting how MongoDB Atlas’s observability tools effectively tackle database performance challenges. Whether you’re a developer, DBA, or DevOps engineer, our mission is to empower you to harness the full potential of your data through our observability suite . Integrating Atlas metrics with your central enterprise observability tools can simplify your operations. By seamlessly working with popular observability tools, our approach helps teams streamline workflows and enhance visibility across systems. Integrating MongoDB Atlas with third-party monitoring tools MongoDB’s developer data platform combines all essential data services for building modern applications within a unified experience. Our purpose-built observability tools for Atlas environments offer automatic monitoring and optimization, guiding diagnostics tailored specifically for MongoDB. Additionally, we extend Atlas metrics into your existing enterprise observability stack, enabling seamless integration without replacing your current tools. This creates a consolidated, single-pane view that unifies Atlas telemetry with other tech and application metrics, ensuring comprehensive visibility into both database and full-stack performance. This integration empowers you to monitor, receive alerts, and make data-driven decisions within your existing workflows, driving greater efficiency. Below is a quick guide to modifying integration settings through the Atlas UI and the popular integrations we support: Navigate to the Project Integrations page in Atlas. Choose the organization and project you want to configure from the navigation bar. On the Project Integrations page, select the third-party services you’d like to integrate. Configure the chosen services with the required API keys and regions. Critical integrations for your observability platform With Atlas’s Datadog and Prometheus integrations, you can send critical MongoDB metrics to these platforms, empowering detailed, real-time monitoring. Through Datadog , you can track database operation counts, query efficiency, and resource usage, ideal for pinpointing bottlenecks and managing resources. Similarly, Prometheus enables you to monitor essential metrics like query times, connection rates, and memory usage, supporting flexible tracking of database health and performance. Both integrations facilitate proactive detection of issues, alert configuration for resource thresholds, and a cohesive view of Atlas data when visualized in Grafana. Atlas’s integration with PagerDuty streamlines incident management by sending metrics like performance alerts, billing anomalies, and security events directly to PagerDuty. This integration records incidents automatically, notifies teams upon alerts, and supports two-way syncing, ensuring resolved alerts in Atlas are reflected in PagerDuty. It enables efficient incident response and resource allocation to maintain system stability. With Atlas integrations for Microsoft Teams and Slack, you can route key metrics—such as query latency, disk usage, and throughput—to these channels for timely updates. Teams can use these insights for real-time performance monitoring, incident response, and collaboration. Notifications through these platforms ensure your team stays informed on database performance, storage health, and user activity changes as they occur. Use case: Centralized observability with MongoDB Atlas, Datadog, and Slack Let’s walk through a hypothetical scenario for ShopSmart, an e-commerce company that leverages MongoDB Atlas to manage its product catalog and customer data. As traffic surges, the DevOps team faces challenges in monitoring application performance and database health effectively. To tackle these challenges, the team leverages MongoDB Atlas’ integration with Datadog and Slack, creating a powerful observability ecosystem. Integrating MongoDB Atlas with Datadog: The team pushes key MongoDB Atlas metrics into Datadog, such as query performance, connection counts, and Atlas Vector Search metrics. With Datadog, they can visualize these metrics and correlate overall MongoDB performance with their other applications. Out-of-the-box monitors and dedicated dashboards allow the team to track metrics like throughput, average read/write latency, and current connections. This visibility helps pinpoint bottlenecks in real time, ensuring optimal database performance and improving overall application responsiveness. Setting up alerts in Datadog: The team configures alerts for critical metrics like high query latency and increased error rates. When thresholds are breached, Datadog instantly notifies the team. This proactive approach allows the team to address potential performance issues before they impact customers. Integrating Datadog with Slack: To ensure fast communication, alerts are sent directly to the dedicated Slack channel, “ShopSmart-Alerts.” This integration fosters seamless collaboration, enabling the team to discuss and resolve issues in real-time. With these integrations, ShopSmart’s engineering team can monitor performance quickly and address issues efficiently. The unified observability approach enhances operational efficiency, improves the customer experience, and supports ShopSmart’s competitive edge in the e-commerce industry. By leveraging MongoDB Atlas, Datadog, and Slack, the team ensures scalable performance and drives continuous innovation. Conclusion MongoDB Atlas empowers developers and organizations to achieve unparalleled observability and control over their database environments. By seamlessly integrating with central enterprise observability tools, Atlas enhances your ability to monitor performance metrics and ensures you can do so within your existing workflows. This means you can focus on building modern applications confidently, knowing you have the insights and alerts necessary to maintain optimal performance. Embrace the power of MongoDB Atlas and transform your approach to database management—because your applications can thrive when your data is observable. And that wraps up our Leveraging Database Observability series! We hope you learned something new and found value in these discussions. Sign up for MongoDB Atlas , our cloud database service, to see database observability in action. To dive deeper and expand your knowledge, check out this learning byte for more insights on the MongoDB observability suite and how it can enhance your database performance.

November 14, 2024