KI im Softwaretest – Hoffnung, Hype und Haftung: Ein Blick aus der Praxis eines Sachverständigen

Künstliche Intelligenz verändert derzeit rasant, wie Software entwickelt und getestet wird. Testgenerierung, automatische Auswertung, selbstheilende Testsysteme, und, und, und. Vieles klingt nach einem Befreiungsschlag für Qualitätssicherung und Engineering.
Doch was passiert, wenn diese Systeme versagen?

Was bedeutet „Qualität“, wenn Entscheidungen nicht mehr deterministisch, sondern probabilistisch getroffen werden?
Und wie verändert sich Verantwortung, wenn Fehler nicht mehr eindeutig auf Menschen oder Code zurückzuführensind?
Dieser Vortrag verbindet die Perspektive eines Software-Sachverständigen mit der Frage nach der Zukunft des Testens im Zeitalter der KI.

Der Vortrag richtet sich an alle, die Testing nicht nur als Prozess, sondern als Sicherheits- und Vertrauensfaktor verstehen und die wissen wollen, wie Qualität in einer KI-getriebenen Welt belastbar bleibt.

Barrierefreiheit strategisch und wirksam umsetzen

Digitale Barrierefreiheit ist längst keine freiwillige Zusatzaufgabe mehr, sondern eine rechtliche und organisatorische Verpflichtung für Unternehmen und öffentliche Stellen. In der Praxis wird Barrierefreiheit jedoch oft nur punktuell angegangen – ohne ein übergreifendes Vorgehen, das nachhaltig wirkt. Der Vortrag zeigt, wie eine ganzheitliche Barrierefreiheitsstrategie entwickelt und umgesetzt werden kann: von Bestandsaufnahmen (Webseiten, Apps, Anwendungen) über einen klar definierten Zielzustand bis hin zu einer priorisierten Maßnahmenplanung.
Ein Schwerpunkt liegt darauf, Barrierefreiheit nicht als einmaliges Projekt zu behandeln, sondern in Prozesse von Design, Entwicklung, Redaktion und Beschaffung zu integrieren. Ergänzend werden Qualifizierungsmaßnahmen für relevante Rollen vorgestellt, um Wissen und Verantwortung in der Organisation zu verankern. Abschließend wird erläutert, wie Monitoring, Reporting und regelmäßige Weiterentwicklung (z. B. Re-Audits, Kennzahlen, Roadmaps) den Fortschritt messbar machen und langfristige Qualität sichern. Der Vortrag beleuchtet dabei sowohl Anforderungen öffentlicher Stellen (z. B. BITV, Nachweispflichten) als auch die Perspektive privatwirtschaftlicher Unternehmen (z. B. BFSG, Risikominimierung) und richtet sich an Entscheider, Projektverantwortliche und Fachkräfte, die Barrierefreiheit dauerhaft und strukturiert etablieren möchten.

KI-basierte Medizinprodukte. Ein Praxisbeispiel mit seinen Anforderungen an den Softwareentwicklungsprozess und Konformitätsbewertung

Die Entwicklung von KI-basierten Medizinprodukten stellt Hersteller vor komplexe regulatorische und technische Herausforderungen. Die Kombination aus der EU-Medizinprodukteverordnung (MDR), dem EU AI Act und den zahlreichen Standards – besonders die zur Kommentierung freigegebene Version der neuen IEC 62304 ED2 – definiert neue Anforderungen an den Softwareentwicklungsprozess für KI-gestützte Systeme. Hierbei müssen unterschiedliche Besonderheiten und Prozesse in den Software-Development-Lifecycle (SDLC) integriert und gezielt geplant und dokumentiert werden. Das Praxisbeispiel beschreibt die Entwicklung und regulatorische Einordnung eines KI-basierten Alarmsystems für den Einsatz auf Intensivstationen. Ziel des Systems ist es, kritische Patientenzustände wie z. B. eine Sepsis, frühzeitig anhand kontinuierlich erfasster physiologischer Messwerte zu erkennen und das medizinische Personal rechtzeitig zu warnen.

Dieser Vortrag beleuchtet anhand des obengenannten Beispiels, wie ein KI-basiertes Medizinprodukt entsteht, welche Prozesse ineinandergreifen und welche Schritte zur Konformitätsbewertung durchlaufen werden. Auch der Draft der neuen IEC 62304 ED2 und weitere regulatorische Anforderungen sollen aufzeigen, wie Hersteller den Softwareentwicklungsprozess entsprechend anpassen können, um erfolgreich ein KI-basiertes Medizinprodukt zu entwickeln. Dabei wird unter anderem die Integration des AI Development Lifecycle (AIDL) in den bestehenden SDLC übersichtlich analysiert und auf die einzelnen Phasen von Planung, Design und Datenmanagement für KI-basierte Medizinprodukte wird eingegangen. Der Vortrag richtet sich an Softwareentwickler, Regulatory-Affairs-Experten, Produktmanager und Entscheidungsträger in der Medizintechnik, die sich mit der Entwicklung, Zulassung und Qualitätssicherung von KI-basierten Medizinprodukten befassen.

The Era of Private AI: How Local Agents Automate Operations Without Data Exposure [EN]

For most enterprises, the barrier to AI adoption isn’t technology — it’s trust. This presentation showcases how local AI agents are transforming „Business as Usual“ by staying behind the corporate firewall. Drawing from Kalmia’s implementation experience, we will cover practical use cases: from an AI Assistant in manufacturing that handles process deviations to automated email agents that draft professional responses based on internal ERP data. We will demonstrate how these agents function as „digital coworkers“ that learn from your private data without compromising security. The session provides a roadmap for companies to achieve „quick wins“ in automation while ensuring 100%data sovereignty.

Automatisierte Benchmarks für einen KI-Agenten

Bei der vergangenen Net Week hatte sie allgemein über Metriken gesprochen, mit denen sich die Qualität der Ergebnisse von generativer KI im Allgemeinen und von KI-Agenten im Besonderen messen lassen. Dieses Jahr möchte sie das Thema technisch weiter vertiefen. Welche Metriken lassen sich automatisiert erfassen, welche nicht? Wie sieht ein automatisiertes Benchmarking konkret aus? Welche statistischen Überlegungen sind erforderlich, um dem nicht-deterministischen Charakter generativer KI Rechnung zu tragen? Antworten auf diese Fragen mit Beispielen gibt es in diesem Vortrag zu sehen. PS: Man muss den Vortrag vom letzten Jahr nicht gehört haben, um diesen hier zu verstehen.

Zusammenarbeit stärken durch MB-Testing bei der Lufthansa CityLine

In dem Vortrag wird euch gezeigt, wie Lufthansa CityLine durch modellbasiertes Testen (MBT) die Zusammenarbeit zwischen Anforderern, Entwicklern und Testern stärken konnte. Somit könnt ihr euch auf die Aktionen fokussieren, die zu einer echten Verbesserung der Qualität führen. MBT sorgt hier für mehr Transparenz und Traceability im Testprozess. Dank der toolgestützten Testfallgenerierung ist es ihnen möglich die für das Produkt relevantesten Testfälle zu erstellen. Die praxisnahen Einblicke von Lufthansa CityLine helfen euch, wie ihr eure Testprozesse effizienter und nachhaltiger gestalten können.

Testing Trends: Shift Left, Shift Right oder AI – Welcher Weg führt zur optimalen Qualität?

Die Testing-Landschaft verändert sich rasant: Shift Left verspricht frühe Fehlererkennung, Shift Right liefert produktionsnahe Erkenntnisse, und KI durchdringt alle Testbereiche. Doch welcher Ansatz ist der richtige für Euer Unternehmen? Statt Trends blind zu folgen, brauchen moderne Organisationen hybride Teststrategien, die zur individuellen Unternehmenskultur, Technologie und zu konkreten Business-Zielen passen. Diese Session zeigt, wie Ihr aus der Vielfalt aktueller Testing-Trends eine maßgeschneiderte Qualitätsstrategie entwickelt – für schnellere Releases ohne Kompromisse bei der Qualität. Erfahrt, welche Kombinationen aus klassischen und innovativen Ansätzen in der Praxis funktionieren und wie Ihr den optimalen Testing-Mix für eure spezifischen Herausforderungen findet.

Bewertung und Auswahl von mittels APIs integrierbaren KI-Modellen für eigene Lösungsszenarien

Quality Engineering ist das neue Testen

Barrierefreiheit: Weil das Internet kein Hindernislauf sein sollte

Vibe Coding für Skeptiker: Zwischen Intuition, Fehlannahmen und echter Produktivität

Quo Vadis Qualitätssicherung: Zwischen Mensch, Maschine und Magie