CES ist ein walisisches Unternehmen, das große Mengen an Kundendienstanrufen sowohl in englischer als auch in walisischer Sprache bearbeitet. Mit steigendem Anrufaufkommen wurden die Kosten für die Transkription mit AWS Transcribe untragbar. Firemind half CES dabei, seine Sprach-zu-Text-Architektur mithilfe von managed AI auf AWS neu zu gestalten, wodurch die gleiche Genauigkeit und Funktionalität zu einem Bruchteil der Kosten erreicht wurde.
Situation
Die CES nutzte AWS Transcribe, um täglich 1.000 bis 2.000 Anrufe in Text umzuwandeln. Der Dienst war zwar präzise, wurde jedoch mit steigendem Anrufaufkommen immer teurer.
Die monatlichen Transkriptionskosten lagen zwischen 2.000 und 3.000 US-Dollar, was auf das minutengenaue Preismodell von AWS Transcribe zurückzuführen ist.
Aufgabe
CES musste:
Transkriptionskosten drastisch senken
Die Genauigkeit und Zuverlässigkeit der Transkription gewährleisten
Weiterhin sowohl Englisch als auch Walisisch unterstützen
Erhalten Sie erweiterte Funktionen wie Lautsprechertrennung und PII-Reduzierung.
Vermeiden Sie Störungen bestehender Batch-Verarbeitungs-Workflows.
Firemind wurde beauftragt, eine kosteneffiziente, produktionsreife managed AI auf AWS zu entwickeln und bereitzustellen.
Aktion
Firemind ersetzte AWS Transcribe durch eine maßgeschneiderte, skalierbare Sprach-zu-Text-Architektur, die auf AWS Managed Services basiert:
-
Nach der Bewertung verschiedener Alternativen und der Auswahl von Whisper aufgrund seiner überlegenen Unterstützung der walisischen Sprache wurde ein Open-Source-Whisper-Modell (Turbo) auf Amazon SageMaker bereitgestellt.
-
Implementierung von SageMaker-Async-Endpunkten mit automatischer Skalierung, wodurch die Plattform je nach Bedarf von null auf aktive Instanzen skaliert werden kann.
-
Optimierte Infrastruktur mit ML.G4.XLarge-GPU-Instanzen mit NVIDIA L4-GPUs für etwa 2 US-Dollar pro Stunde
-
Mit LLMs neu entwickelte Transcribe-native Funktionen, darunter:
-
Lautsprechertrennung
-
Erkennung und Reduzierung personenbezogener Daten
-
-
Integrierte serverlose Komponenten, die AWS Lambda für die Verarbeitung von Nutzdaten und S3/SQS für die Orchestrierung verwenden
-
Beibehaltung bestehender Workflows unter Beibehaltung der vier täglichen Batch-Läufe des Kunden und der S3-basierten Erfassung
-
Vollständige CI/CD-Automatisierung mit AWS CodeBuild für wiederholbare, produktionsreife Bereitstellungen
Die Ergebnisse
Die neue managed AI hatte erhebliche und messbare Auswirkungen auf das Geschäft:
- Die monatlichen Kosten wurden von 2.000 bis 3.000 Dollar auf 300 bis 600 Dollar gesenkt.
- Gesamtkosteneinsparungen von 80–85 %, was 1.400–2.400 US-Dollar pro Monat entspricht
- Beibehaltung der Transkriptionsgenauigkeit und Funktionsparität mit AWS Transcribe
- Weiterhin vollständige Unterstützung für die Sprachen Englisch und Walisisch
- Skalierbare, zukunftsfähige Architektur mit Potenzial für eine zusätzliche Kostenreduzierung von 40 % durch weitere Instanzoptimierung
CES erzielte eine erhebliche Kostenoptimierung, ohne dabei Abstriche bei Leistung, Compliance oder Sprachabdeckung zu machen, und zeigte damit, wie managed AI AWS vollständig verwaltete Dienste in großem Maßstab übertreffen kann.
Schlussfolgerung und wichtige Erkenntnisse
Fireminds Zusammenarbeit mit MoneySuperMarket demonstriert die Leistungsfähigkeit von KI-Agenten und GenAI-Orchestrierung zur Verbesserung der Kundenbindung und Transparenz.
Vertrauen fördert die Konversion
Geschwindigkeit und Skalierbarkeit sind wichtig
Modulare AI-Workflows
Dieses Projekt hat den Grundstein für die Zukunft von MSM gelegt intelligenten, erklärbaren Preisvergleichenin dem fortschrittliche KI mit einer kundenorientierten Philosophie kombiniert wird.
