NetSuite vs Sage

Integration von LLMs in B2B-Stacks: Ein Praxisbericht

Ein Berater dokumentiert eine Arbeitswoche zur Integration eines Large Language Models in den B2B-Tech-Stack eines mittelständischen Unternehmens. Im Fokus standen Datenmapping, Middleware-Architektur, der Aufbau einer robusten Retrieval-Schicht und operative Leitplanken. Die Integration umfasste Salesforce, NetSuite, Zendesk, Confluence und eine MySQL-Legacy-Anwendung, angebunden via EventBridge und Lambda-Worker. Die Daten wurden in Postgres mit pgvector und tsvector normalisiert. Für das Retrieval kam eine hybride Suche aus Vektor- und lexikalischem Ansatz per Reciprocal Rank Fusion sowie ein Cross-Encoder-Reranker zum Einsatz. Evaluierungstests zeigten, dass das hybride Setup mit Rerank im Vergleich zu reinem Vektor-Retrieval die Top-5-Trefferquote von 61 Prozent auf 89 Prozent steigerte. Durch die Nutzung von Postgres anstelle einer dedizierten Vektor-DB sparte der Kunde zudem rund 600 bis 900 US-Dollar monatlich.

• Zu den angebundenen Kundendatenquellen zählten Salesforce, NetSuite, Zendesk, Confluence und eine MySQL-Legacy-Anwendung.
• Die Architektur nutzte einen EventBridge-Bus vor Lambda-Workern mit eingehenden Webhooks von Zendesk und Salesforce.
• Die Ingestion speicherte Embeddings und Texte in Postgres (pgvector und tsvector), ergänzt durch hybrides Retrieval via Reciprocal Rank Fusion und Cross-Encoder-Rerank.