KI kann heute erstaunlich viel – sie schreibt Testfälle, generiert Code, schlägt Architekturen vor und beantwortet fast jede Frage in Sekunden. Klingt nach der perfekten Unterstützung. Aber es gibt einen Haken: Wenn die Lösung immer nur einen Prompt entfernt ist, sammeln viele gar nicht mehr die praktischen Erfahrungen, die sie eigentlich brauchen. Gerade im Testing und Quality Engineering wird das schnell kritisch. Denn wenn ich selbst noch nie echte Probleme gelöst habe – wie soll ich dann einschätzen, ob die KI mir gerade eine wirklich gute Lösung liefert oder einfach nur eine plausibel klingende? Und noch wichtiger: Wie erkenne ich überhaupt, ob das Problem richtig verstanden wurde? Oft hört man in diesem Zusammenhang den Satz: „You need an Expert in the Lead.“ Klingt gut – aber wie wird man dieser Experte in einer Welt, in der man immer seltener selbst „durch die Probleme durch muss“? Schauen wir uns genau diese Herausforderung an: Warum uns durch KI ein Stück Erfahrungslernen verloren geht – und warum das ein echtes Risiko ist. Vor allem aber geht es um Lösungen: neue Ideen für Ausbildung und Training, die nicht darauf abzielen, Wissen schneller zu konsumieren, sondern echte Kompetenz aufzubauen. Du bekommst konkrete Impulse, wie wir Lernumgebungen schaffen können, in denen Menschen wieder lernen, zu hinterfragen, zu bewerten und Verantwortung zu übernehmen – also genau die Fähigkeiten entwickeln, die man braucht, um KI sinnvoll zu nutzen, statt sich von ihr lenken zu lassen. Am Ende geht es um einen Perspektivwechsel: weg vom „User von KI“, hin zum „Navigator von KI“.

Generative KI steigert die Effizienz im Softwaretesting – von der Testfallableitung bis zur Strategie –, funktioniert in der Praxis aber nur mit maßgeschneidertem Kontext. Ein Pilotprojekt aus dem behördlichen Umfeld zeigt, dass strenge Governance- und Datenschutzregeln von Anfang an als Gestaltungsparameter im Prozessdesign verankert werden müssen. Die Praxiserfahrungen belegen drei Kernregeln: Kontextqualität schlägt Modellqualität, Human-in-the-Loop sichert die Verantwortung und echtes KI-Onboarding ist Qualifizierung statt reiner IT‑Einführung. Der Vortrag bietet Testmanager:innen und Tester:innen sofort anwendbare Best Practices, um typische Hürden selbst unter restriktiven Rahmenbedingungen zu meistern. Er vermittelt wertvolle Impulse für alle, die den Einsatz von KI in der Qualitätssicherung nachhaltig und erfolgreich planen oder bereits erproben.

Dieser Proof of Concept (PoC) demonstriert die weitgehende Automatisierung des gesamten Software-Testprozesses durch den Einsatz von Agentic AI und dem Framework Playwright. Auf Basis von User Stories, Richtlinien oder Dokumentationen generiert die KI eigenständig Testskripte, führt diese aus, wertet Ergebnisse aus und passt sie bei Anwendungsänderungen an. Neben cloudbasierten Modellen wird auch das Self-Hosting mit Open-Weights-Modellen untersucht, um strenge Datenschutz- und Compliance-Anforderungen in Unternehmen zu erfüllen. Die nahtlose Anbindung an Systeme wie Jira oder Redmine verknüpft Fehlerberichte automatisiert mit Log-Dateien und Screenshots für eine schnellere Ursachenanalyse. Insgesamt führt der PoC zu einer deutlichen Reduzierung des manuellen Testaufwands, einer höheren Testabdeckung und nachhaltig gesteigerter Softwarequalität.

Während vor einigen Jahren die größte Herausforderung für Projekte und damit für Projektmanager (PM) darin bestand, Software trotz Fachkräftemangel und mangelndem Verständnis der Grundlagen von Softwaremetriken zu entwickeln, gibt es heute neue Technologien im Bereich der künstlichen Intelligenz (KI), deren Handhabung noch schwieriger ist. Wenn sich ein Unternehmen beispielsweise für den Einsatz von Agentic AI entscheidet, müssen sich Projektmanager heute auf die Versprechen des Vertriebs großer Hightech-Anbieter verlassen, die keinerlei Verantwortung für das übernehmen, was sie an Endkunden verkaufen. In solchen Situationen muss ein PM einen Mittelweg finden zwischen der Verwendung unzuverlässiger agentischer Software, die gelegentlich halluziniert, und der Notwendigkeit, eine Technologie zu nutzen, die noch nicht ausgereift ist und dem Entwicklungsteam noch nicht vollständig bekannt ist. Zum Glück können die «Qualitäter» helfen. Diese nutzen ein COSMIC-Modell (ISO/IEC19761), um die unternehmensweiten Datenströme zu identifizieren und zu analysieren, um sie aufgrund ihres Schutzbedürfnisses (Privacy), ihrer Sicherheitsrelevanz (Safety) und neu auch der Verlässlichkeit des in den Daten transportierten KI‑Wissens (Reliability) klassifizieren zu können. Mithilfe klassischer Qualitätssicherungsmaßnahmen (Datenflussanalyse, statische Tests, dynamische Tests, Quality Function Deployment (QFD) etc.) können Organisationen vor den Folgen halluzinierender KI‑Agenten, aber auch vor Datenverlust und Datenklau geschützt werden. Der Vortrag skizziert, wie das gemacht wird.

Im Beitrag soll auf entwicklungstechnische (u. a. MCP‑Auswahl, Prompt-Engineering, …), operative (u.a. Authentifizierung und Autorisierung, Monitoring …) und organisatorische Schutzmaßnahmen (u.a. Freigabeprozesse, Human in the Loop, …), die im Zusammenhang mit einem MCP-Einsatz benötigt werden, eingegangen werden. Die Arbeit entstand im Zusammenhang mit einer durchgeführten Forschungsaufgabe. Entsprechende Informationen finden sich auch unter [Dyballa et al. 2026]. Eine dafür erstellte Simulation zeigt beispielhaft, wie ein „kompromittierter“ MCP-Server eine Banktransaktion unbemerkt umleiten kann – ohne eine Software-Schwachstelle auszunutzen und ohne dass der Benutzer es bemerkt (vgl. http://github.com/AI4SE-Risks-of-Adopting-MCP).

Die rasant fortschreitende Entwicklung von KI-Agenten ist faszinierend und erschreckend zugleich. Während sich viele Firmen enorme Vorteile hinsichtlich der Produktivität erhoffen, werden zeitgleich die Stimmen lauter, die Zweifeläußern. Dabei spielen die Kosten eine wichtige Rolle. Im Juni 2026 hat Gartner dazu eine Prognose abgegeben (siehe https://www.gartner.com/en/newsroom/press-releases/2026-06-24-gartner-predicts-ai-coding-costs-will-surpass-average-developer-salary-by-2028-as-token-consumption-surges). Danach unterschätzen viele Unternehmen die finanziellen Auswirkungen des stetig steigenden Tokenverbrauchs. Wörtlich sagt Nitish Tyagi, Senior Principal Analyst bei Gartner: „Entwickler (priorisieren) in der Regel Geschwindigkeit und Komfort gegenüber Kosteneffizienz“. Ups, da muss ich mich an die eigene Nase fassen!

Zum Glück gibt es diverse Stellschrauben, an denen wir drehen können. Gut konzipierte Skills und adaptive RAG-Systeme können ebenso helfen wie die Darstellung langer Texte als Bilder. Des Weiteren nehmen wir Buzzwörter wie „Model Routing“, „Prompt Caching“ und „Context Engineering“ unter die Lupe und schauen, was sich dahinterverbirgt. Am Ende – so meine Hoffnung – haben die Teilnehmer eine Vorstellung davon, was sie tun könnten und sollten, um die Kosten von KI-Agenten zumindest besser zu kontrollieren.

Der Vortrag zeigt anhand von Aviation, Automotive, Rail und Medical, dass hochregulierte Branchen trotz unterschiedlicher Normen dieselbe Kernfrage beantworten müssen: Wie erzeugen wir belastbares Vertrauen in Systeme, deren Restrisiko niemals vollständig eliminiert werden kann? Anhand konkreter Beispiele wird dargestellt, warum sich Qualitätssicherung von einer reinen Verifikationsdisziplin zu einer evidenzbasierten Assurance-Disziplin entwickelt und welche Rolle Test, Safety, Governance und AI Assurance künftig dabei spielen.

Large Language Models (LLMs) weisen ein großes Potenzial in der Erkennung von Schwachstellen in Software auf. Bisherige Arbeiten in diesem Feld konnten zeigen, dass autonome Agenten Schwachstellen durch statische Analyse des Quellcodes identifizieren können, jedoch weist dieser Ansatz hohe False-Positive-Raten auf. Wir untersuchen, inwiefern sich dieses Problem durch einen dynamischen Ansatz lösen lässt: Der Agent erhält zusätzlich zum Quellcode Zugriff auf das laufende System sowie die Möglichkeit, mit diesem autonom zu interagieren. Zusätzlich wird dem Agenten ein sogenanntes Vulnerability Oracle zur Verfügung gestellt, mit welchem er selbstständig verifizieren lassen kann, ob eine Schwachstelle korrekt erkannt wurde. Evaluiert haben wir diesen Ansatz am Beispiel von Cross-Site-Scripting (XSS) in WordPress-Plugins. Die Experimente zeigen, dass Vulnerability Oracles eine zentrale Komponente der Schwachstellenerkennung darstellen und die False-Positive-Rate deutlich verringern. Darüber hinaus deckte das System über 20 bislang unbekannte Schwachstellen auf, von denen 10 als CVE registriert wurden. Eines der betroffenen Plugins war zum Entdeckungszeitpunkt auf über 100.000 WordPress-Seiten installiert.