{ "item_title" : "LLM-Resilienztechnik", "item_author" : [" Byte Weaver "], "item_description" : "Was passiert mit Ihrer Anwendung, wenn der API-Endpoint Ihres LLM-Providers pl tzlich verschwindet - und Ihr wichtigster Kunde vor der n chsten Transaktion auf eine Antwort wartet?In nur drei Jahren sind Large Language Models vom Experiment zum zentralen Nervensystem kritischer Gesch ftsprozesse geworden. Doch mit dieser Abh ngigkeit w chst eine fundamentale Spannung: Wir bauen auf Infrastruktur, die wir nicht kontrollieren, deren Ausfallverhalten wir nicht deterministisch vorhersagen k nnen und deren Service Level Agreements oft hinter den Anforderungen unserer eigenen Endkunden zur ckbleiben.Dieses Buch entstand aus einer Beobachtung, die sich in unz hligen Post-Mortems und Architekturreviews wiederholt: Teams investieren enorme Ressourcen in Prompt-Engineering, Feinabstimmung und Evaluationsframeworks, aber wenn die Latenz unter Last explodiert oder der Drittanbieter ausf llt, endet die technische Eleganz abrupt. Die Resultate sind harte Systemausf lle, kaskadierende Fehler oder subtile Degradationen, die das Nutzervertrauen untergraben, ohne dass Monitoring-Systeme Alarm schlagen.F r Site Reliability Engineers bedeutet dies, externe Generative-APIs in bestehende SLAs zu integrieren, ohne die Performance-Garantien zu verw ssern. Platform-Engineering-Teams ben tigen Multi-Provider-Strategien, die nicht nur Failover erm glichen, sondern auch betreibbar und kosteneffizient bleiben. AI-Produktverantwortliche m ssen Stakeholdern erkl ren, warum eine 99,9-Prozent-Uptime des Providers nicht ausreicht, wenn der eigene Endkundenvertrag 99,99 Prozent vorsieht.Hier finden Sie keine theoretischen Abhandlungen, sondern greifbare Fallback-Architekturen f r den Produktivbetrieb. Wir untersuchen Fehlermuster, die bei traditionellen APIs selten sind, adaptieren Threat-Modeling mittels STRIDE spezifisch auf Generative-KI-Abh ngigkeiten und entwickeln Resilienzstrategien, die Ausf lle absorbieren, anstatt sie an Ihre Kunden weiterzugeben. Von semantischem Caching, dashnliche Anfragen identifiziert und Ihre Abh ngigkeit von Live-APIs reduziert,ber intelligente Load-Balancer, die Prompts verstehen, bis hin zu Edge-Fallbacks auf quantisierten Smartphone-Modellen.- Wie Sie qualitative Degradation erkennen, wenn ein System technisch verf gbar bleibt, aber unter Last halluziniert oder kontextuelle Pr zision verliert - Warum voreilige Failover teurer sein k nnen als kurze Wartezeiten - und wie adaptive Circuit-Breaker kostspielige Fehlentscheidungen vermeiden - Semantisches Routing, das komplexe Anfragen an leistungsf hige Modelle delegiert und einfache Queries kosteng nstigere Endpunkte nutzen l sst - Wann Self-Hosted-Infrastruktur als ultimativer Fallback Sinn ergibt und wie Sie Reservekapazit ten kostenbewusst planenIhre Anwendung verdient Resilienz, die mitdenkt. Holen Sie sich die Architekturstrategien, die Ihre LLM-Integration wirklich robust machen - bevor der n chste Ausfall Ihre SLAs, Ihre Ums tze und Ihr Kundenvertrauen gef hrdet.", "item_img_path" : "https://covers1.booksamillion.com/covers/bam/9/79/819/633/9798196338656_b.jpg", "price_data" : { "retail_price" : "23.56", "online_price" : "23.56", "our_price" : "23.56", "club_price" : "23.56", "savings_pct" : "0", "savings_amt" : "0.00", "club_savings_pct" : "0", "club_savings_amt" : "0.00", "discount_pct" : "10", "store_price" : "" } }

Overview

Customers Also Bought

Details