Die Einführung von Künstlicher Intelligenz (KI) in der Softwareentwicklung bringt zahlreiche Chancen mit sich, wirft aber auch ethische und sicherheitstechnische Fragen auf. In diesem Beitrag untersuchen wir, wie die Qualität von KI-gesteuerter Software sichergestellt werden kann und welche Herausforderungen sich durch ethische Standards ergeben.

Künstliche Intelligenz ist keine neue Erfindung, sondern ein stetig wachsendes Feld, das seit den 1950er-Jahren erforscht wird. Dennoch sind die Risiken, die durch Manipulation und fehlerhafte Implementierungen entstehen können, weiterhin eine große Sorge. Ein bekanntes Zitat von Stephen Hawking warnt, dass KI eines der „schlimmsten Ereignisse der Menschheit“ sein könnte, wenn ihre Entwicklung nicht mit Bedacht und Verantwortungsbewusstsein erfolgt. Die Qualität von KI-Software hängt stark von der Integrität der verwendeten Daten ab. Wenn die Daten fehlerhaft, voreingenommen oder manipulierbar sind, kann dies die Funktionsweise der KI erheblich beeinflussen und zu Entscheidungen führen, die ethisch fragwürdig oder gefährlich sind. Der Schutz dieser Daten und die Implementierung von Datenschutzrichtlinien sind daher von entscheidender Bedeutung.

Ethische Standards spielen eine zentrale Rolle bei der Entwicklung und Anwendung von KI. Entwickler müssen sicherstellen, dass ihre Systeme transparent und erklärbar sind. Nur so können sie das Vertrauen der Nutzer gewinnen und sicherstellen, dass die KI-Entscheidungen nachvollziehbar und gerecht sind. Hier sind klare Richtlinien erforderlich, um sicherzustellen, dass die Technologie nicht nur den technischen Standards entspricht, sondern auch ethischen Prinzipien folgt. Die Haftung bei der Nutzung von KI-Software ist ebenfalls ein bedeutender Aspekt. Wenn eine KI falsche oder schädliche Entscheidungen trifft, stellt sich die Frage, wer die Verantwortung trägt: der Entwickler, der Betreiber oder die KI selbst? Diese Fragen müssen nicht nur technologisch, sondern auch rechtlich und moralisch beantwortet werden.

Technische Herausforderungen wie die Testbarkeit von KI-Systemen sind ebenfalls ein wichtiger Punkt. Herkömmliche Testmethoden reichen oft nicht aus, um die komplexen und adaptiven Systeme einer KI zu validieren. Es müssen neue Methoden entwickelt werden, die auch unvorhersehbare Verhaltensweisen abdecken und die Verlässlichkeit der KI sicherstellen.

Künstliche Intelligenz bietet enorme Möglichkeiten, die Art und Weise, wie Software entwickelt und genutzt wird, zu revolutionieren. Doch diese Vorteile kommen nicht ohne Risiken. Es ist entscheidend, dass die Entwicklung von KI-Systemen nicht nur den höchsten technischen, sondern auch den strengsten ethischen Standards entspricht. Entwickler und Unternehmen stehen in der Verantwortung, transparente, nachvollziehbare und sichere Systeme zu schaffen, die das Vertrauen der Nutzer stärken und langfristig zum Wohl der Gesellschaft beitragen.

Dieser Artikel ist Teil des Buches “Softwarequalität ist wie Schönheit” von Prof. Dr. Sabine Radomski und Dr. Serda Hauser.
In ihrem neuesten Werk werfen die Autorinnen einen skeptischen Blick auf die aktuelle Softwarelandschaft und warnen vor den weitreichenden Folgen minderwertiger Softwarequalität in einer digitalisierten Gesellschaft. Sie betonen die Unzulänglichkeiten vieler Unternehmen und Einzelpersonen im Umgang mit Sicherheitslücken und zeigen auf, wie selbst eine einzige veröffentlichte Schwachstelle das gesamte System gefährden kann. Mit scharfer Kritik an der mangelnden Sensibilisierung für Datenschutzrisiken und der weit verbreiteten Sammlung und Übertragung von Big Data, machen die Autorinnen deutlich, dass die Sicherheit und Qualität von Software von entscheidender Bedeutung ist. Das Buch liefert keine einfachen Lösungen, sondern fordert zum Umdenken und zur dringenden Umkehr in der Software-Nutzung und -Produktion auf. Es zeigt auf, dass die Menschheit nicht nur vor der digitalen Transformation, sondern auch vor einer möglichen Katastrophe in Form eines Qualitätsdesasters steht.

Die Autorinnen:

Profn. Radomski, ist verheiratet und hat zwei Töchter, studierte von 1984 – 1988 Informationsverarbeitung an der Ingenieurhochschule Dresden und promovierte 1995 an der TU Dresden im Informatik Zentrum. Nachdem sie als Systemadministrator in verschiedenen Firmen tätig war wurde sie 2000 Professorin im Fachbereich Nachrichtentechnik der Hochschule für Telekommunikation Leipzig. Ihr Lehrangebot umfasste Verteilte Systeme, Softwareengineering und Software Management. Sie ist BITKOM Experte im AK Cloud Computing und Outsourcing (CCO), AI (Künstliche Intelligenz), IT-Sicherheit sowie Qualitätsmanagement und wurde als Professor des Jahres 2015 von der Zeitschrift Unicum ausgezeichnet. 2024 wurde das Buch „Softwarequalität ist wie Schönheit“ von Sabine Radomski und Serda Hauser im epubli Verlag mit der ISBN 9783759881847 veröffentlicht.

Dr. Serda Hauser ist eine Deutsch-Amerikanerin und arbeitet als Service Delivery Manager bei der Deutschen Telekom Technik GmbH in Ulm. Von 2008 bis 2017 studierte sie Telekommunikationsinformatik im Bachelor of Engineering und Wirtschaftsinformatik im Masterstudiengang an der Hochschule für Telekommunikation in Leipzig (HfTL). 2023 promovierte sie an der Universität Leipzig zum Dr.-Ing. Von 2000 bis 2015 arbeitete sie für die Deutsche Telekom AG als Requirements Engineer, Projektmanagerin und Systemmanagerin. Seitdem ist sie für die Deutsche Telekom Technik AG tätig. Ihr Fachwissen liegt im Bereich Software-Engineering, einschließlich Requirements Engineering (RE). Im Rahmen ihrer Promotion entwickelte sie ein RE-Tool (Product Requirement Infomation Management System (PRIMS)) mit maschinellen Lernmethoden, das sich auf die Qualität spezifischer Anforderungen konzentriert. PRIMS wird demnächst bei T-Systems zur Analyse von IT-Anforderungen eingesetzt.