Welche Bedingungen müssen erfüllt sein müssen, damit Unternehmen KI-Herstellern vertrauen und deren KI-Lösungen nutzen? Diese Frage steht im Fokus des Forschungsprojekts „TrustKI – Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“, das seit letztem Jahr am Institut für Internet-Sicherheit – if(is) der Westfälischen Hochschule läuft. In diesem Rahmen wurde Ende letzten Jahres die Anwender-Studie TrustKI durchgeführt, um zu ermitteln, was aus Sicht von Anwenderunternehmen relevant ist, damit sie einem KI-Hersteller vertrauen können.
Generell lässt sich feststellen, dass den Anwenderinnen und Anwendern von KI-Lösungen der Aufbau eines reellen Vertrauensverhältnisses, basierend auf der Vertrauenswürdigkeit des KI-Anbieters, sehr wichtig ist. Eine Erklärung dafür liegt nach Ansicht von Prof. Norbert Pohlmann auf der Hand: „Die Veränderungen, die mit der zunehmenden Nutzung von Künstlicher Intelligenz einhergehen, werden absehbar sowohl die Gesellschaft insgesamt als auch jeden einzelnen Menschen immer stärker betreffen.“ Virtuelle Assistenten wie „ChatGPT“ oder „Microsoft Copilot“ zeigen bereits heute eindrucksvoll, wie zügig die Marktdurchdringung von KI-Anwendungen vonstattengeht und welche Effekte daraus resultieren. Daher lässt sich leicht nachvollziehen, dass das Bedürfnis der Anwendenden nach Vertrauenswürdigkeit und damit einhergehend bestimmten Werten deutlich zugenommen hat.
Nachfolgend einige bemerkenswerte Ergebnisse, die Anwenderinnen und Anwender als wichtig erachten:
- Die befragten Anwenderunternehmen erwarten von KI-Anbietern ein wahrhaftiges Commitment. Nach Ansicht der Teilnehmer hilft eine prägnante und transparente Kernbotschaft, damit KI-Anbieter ihre Vertrauenswürdigkeit glaubwürdig darstellen und nachhaltig manifestieren können.
- Gleichzeitig müssen die KI-Anbieter ihrer (ethischen) Sorgfaltspflicht nachkommen und im Sinne der Anwender wohlwollend agieren. Dies lässt sich nach Ansicht der Teilnehmer in unterschiedlichen Dimensionen nachweisen. Hierzu gehört beispielsweise, die Durchführung einer Folgenabschätzung dahingehend, ob und in welchem Maße Probleme bei der Nutzung der KI-Lösung auftreten können.
- Ein durchgängig relevanter Aspekt ist aus Sicht der befragten Anwenderunternehmen die IT-Sicherheit. Die aktuellen Herausforderungen im Rahmen der Nutzung von KI erfordern unter anderem, dass IT-Sicherheit ein integraler Bestandteil der Unternehmenskultur ist.
Hier finden Sie die ausführlichen Studienergebnisse sowie den Forschungsbericht.
