Obwohl künstliche Intelligenz (KI) noch neu und aufregend ist, unterscheidet sie sich nicht von anderen Technologien. Wenn Sie sich dafür entscheiden, sie in Ihrem Unternehmen einzusetzen, sollten Sie sich der potenziellen Risiken bewusst sein.
Wir sind uns der Vorteile von KI bewusst, aber da 35 Prozent der Unternehmen sie bereits nutzen, muss der Fokus darauf liegen, wie man sich darauf vorbereitet, wenn etwas schief geht. Dazu gehört das Verständnis, wie KI genutzt werden kann, um Unternehmen zu täuschen, zu manipulieren oder ihnen zu schaden, sowie Tools, die dabei helfen, sich gegen Risiken zu verteidigen und sie zu minimieren.
KI wird hinterlistig verwendet
Ein großes Risiko im Zusammenhang mit KI ist die Möglichkeit, dass Menschen vorgeben, jemand anderes zu sein. Beispielsweise kann KI Lebensläufe (oder Resümees) fantastisch aussehen lassen und den Prozess ihrer Erstellung erheblich beschleunigen. Auf dem immer härter umkämpften Arbeitsmarkt nutzen Hochschulabsolventen Programme wie OpenAI oder ChatGPT, um neben Lebensläufen auch Bewerbungsschreiben zu verfassen. Auch wenn dies einigen Bewerbern hilft, bei den Einstellungsprüfungen weiterzukommen, stellen die Unternehmen fest, dass es Unterschiede zwischen den Qualifikationen auf dem Papier und der Person am Schreibtisch gibt, wenn ein Bewerber zu einem Vorstellungsgespräch eingeladen wird.
Ebenso verwenden Finanzinstitute häufig Online-Formulare und KI, um zu entscheiden, ob jemandem ein Darlehen oder ein Kredit gewährt wird. Die Automatisierung solcher Prozesse bedeutet, dass Unternehmen nicht immer mit Menschen von Angesicht zu Angesicht zusammenkommen, was sie zu einem Hauptziel für diejenigen macht, die das System ausnutzen wollen.
Im Gegensatz zu traditionellen Walfangangriffen (einer Art Spear-Phishing-Angriff, der sich gegen Führungskräfte richtet) gibt es jüngste Berichte über Betrüger, die KI einsetzen, um gefälschte Anfragen im Namen des Finanzvorstands (CFO) zu versenden.
Diese Beispiele zeigen, dass Unternehmen vorsichtig sein, robuste Prozesse zur Überprüfung einführen und Schulungen für Stakeholder anbieten müssen.
Unethische Geschäftspraktiken
KI kann die Geschäftsvorteile durch verbesserte dynamische Online-Preisstrategien maximieren. Vierundneunzig Prozent der Käufer vergleichen beim Online-Shopping die Preise von Produkten, und Algorithmen überwachen dieses Nutzerverhalten, um auf der Grundlage der Ausgabegewohnheiten personalisierte Preise anzubieten. Allerdings könnten Unternehmen versucht sein, irreführende Preisstrategien anzuwenden und die Algorithmen auszunutzen, um die Zahlungsbereitschaft der Verbraucher zu ermitteln, anstatt den angemessenen Preis anzubieten.
Diese Manipulation geht über Preisanpassungen hinaus. Unternehmen könnten ausgeklügelte Algorithmen einsetzen, um das Verbraucherverhalten vorherzusagen und zu beeinflussen, und dabei möglicherweise ethische Grenzen überschreiten, indem sie individuelle Vorlieben oder Schwachstellen ausnutzen.
Insider- und Drittparteirisiken
Insider-Bedrohungen erhöhen die Komplexität zusätzlich, da verärgertes Personal mit Zugriff auf KI-Algorithmen den Betrieb sabotieren oder sensible Daten kompromittieren könnten. Durch die absichtliche Eingabe vertraulicher Daten in generative KI-Systeme könnte das Personal Unternehmensgeheimnisse potenziellen Hackerangriffen aussetzen und Unternehmen und Kunden erheblichen Sicherheitsrisiken aussetzen. Im Frühjahr 2023 verbot ein globales Elektronikunternehmen seinem Personal die Nutzung von KI, nachdem festgestellt wurde, dass ein Mitarbeitender, der KI für berufliche Zwecke einsetzte, sensible interne Informationen weitergegeben hatte.
Viele Unternehmen sind bei wichtigen Daten und Services auf Drittparteien angewiesen. Eine solche Partnerschaft birgt jedoch Risiken, da die Drittpartei möglicherweise andere Vorurteile und eine Risikotoleranz hat, die nicht mit den Erwartungen oder Standards des Unternehmens übereinstimmen. Diese Diskrepanz kann zu Schwachstellen führen, darunter eine überstürzte Entwicklung, bei der Sicherheitsmaßnahmen fehlen, und eine erhöhte Anfälligkeit für Manipulationen.
Risikovermeidung
Sicherheit basiert auf drei Grundsätzen: Vertraulichkeit, Integrität und Verfügbarkeit. Alle eingeführten Kontrollen dienen dem Schutz dieser Grundsätze. In dem Maße, wie die Techniken immer besser in der Lage sind, diese Prinzipien anzugreifen, müssen auch die Verteidigungsmaßnahmen immer fortschrittlicher werden. Unternehmen können Risiken minimieren durch:
- Umfassende Verteidigungsstrategie: Für Unternehmen ist es wichtig, KI-Systeme zu überprüfen und zu überwachen, die Zuverlässigkeit der Beteiligung von Drittparteien zu bewerten und sich gegen eine Vielzahl potenzieller Bedrohungen zu schützen, einschließlich solcher, die von unehrlichen Benutzern und korrupten Algorithmen ausgehen.
- Verantwortungsvolle Governance und Offenlegung: Bedrohungen der Cybersicherheit und moralische Gefahren erfordern eine ausgewogene Governance. Das Fehlen proaktiver Maßnahmen könnte nicht nur zu einer Rufschädigung, sondern auch zu einem Vertrauensverlust in ganze Branchen führen.
- Verantwortungsvolle KI-Praktiken: Von Entwicklern bis hin zu Unternehmen müssen verantwortungsvolle KI-Praktiken wie ein auf den Menschen ausgerichteter Designansatz, Datenschutz und Datensicherheit, Transparenz und Verantwortung in jeder Phase der Wertschöpfungskette verankert sein.
- Einhaltung von Vorschriften: Bleiben Sie auf dem Laufenden über die sich entwickelnden Vorschriften und Standards in Bezug auf KI und Cybersicherheit, wie z. B. ISO 27001 oder das National Institute of Standards and Technology (NIST) Cybersecurity Framework. Stellen Sie die Compliance mit den relevanten Vorschriften sicher, um rechtliche und regulatorische Risiken zu vermeiden.
Die transformative Kraft der KI ist unbestreitbar. Ihr verantwortungsvoller Betrieb erfordert jedoch gemeinsame Anstrengungen und ein Gleichgewicht zwischen technologischem Fortschritt und ethischer Verantwortung. Nur durch eine proaktive und robuste Verteidigung und ein branchenweites Engagement für ethische KI-Praktiken können Unternehmen und Gesellschaften ihr volles Potenzial ausschöpfen und sich gleichzeitig vor den damit verbundenen Risiken schützen.
