Künstliche Intelligenz in Unternehmen: Innovation, die Management erfordert
Künstliche Intelligenz in Unternehmen: Innovation, die Management erfordert
Das Jahr 2026 hat die Debatte darüber endgültig beendet, ob die Regulierung künstlicher Intelligenz Unternehmen beeinflussen wird. Der KI-Gesetz ist bereits teilweise wirksam, und die Verantwortung für den Einsatz künstlicher Intelligenz liegt nun direkt bei der Leitung der Organisationen. Gleichzeitig nutzen viele Unternehmen KI auf eine Weise, die bei genauerer Betrachtung einer internen Prüfung – geschweige denn einer Aufsichtsbehörde – standhalten würde. Die Frage ist daher nicht, ob man sich mit KI auseinandersetzen soll, sondern ob man sie wirklich unter Kontrolle hat.
Künstliche Intelligenz ist in den letzten Jahren ein häufiger Bestandteil des täglichen Betriebs von Unternehmen geworden. Im Jahr 2026 nutzen Organisationen es nicht nur, um Prozesse zu automatisieren oder Daten zu analysieren, sondern auch um Mitarbeiter zu bewerten, Kundenbeziehungen zu verwalten, Preise festzulegen und strategische Entscheidungen zu unterstützen. Es ist jedoch gerade diese "unsichtbare" Integration von KI in Schlüsselprozesse, die eines der größten Risiken heute darstellt.
Der KI-Gesetz ist nicht mehr nur eine geplante Regulierung. Ausgewählte Bestimmungen der Verfassung sind wirksam, andere werden schrittweise angewendet. Unternehmen, die KI nutzen, müssen nachweisen können, dass sie wissen, wo und wie sie KI einsetzen, welche Risiken bestehen und wer für diese Entscheidungen verantwortlich ist. Für viele Organisationen ist dieses Ergebnis unangenehm – besonders wenn sie erkennen, dass sie keine Antwort auf diese Fragen haben.
Aus der Praxis sehen wir heute Fälle, in denen die Personalabteilung KI-basierte Werkzeuge nutzt, um Kandidaten vorab auszuwählen, ohne klar zu machen, auf welcher Grundlage das System Entscheidungen trifft und ob es kein diskriminierendes Verhalten zeigt. In anderen Unternehmen werden KI-Tools eingesetzt, um die Mitarbeiterleistung zu bewerten oder Personalmaße vorzuschlagen, während die Verantwortung für die endgültige Entscheidung formell beim Manager liegt, der jedoch die Funktionsweise des Algorithmus nicht versteht und keine Möglichkeit hat, dessen Ergebnisse realistisch zu überprüfen.
Ein weiteres häufiges Szenario ist der Einsatz von KI in der Kundenkommunikation. Heute entscheiden automatisierte Systeme, welche Angebote der Kunde erhält, welche Preise ihm angeboten werden oder wie seine Beschwerden gelöst werden. Wenn ein solches System die Situation falsch einschätzt, trifft das nicht den Technologieanbieter, sondern die Verantwortung der Organisation selbst. Darüber hinaus kann es im Kontext des KI-Gesetzes ein Hochrisikosystem sein, für das die Regulierung ein erhöhtes Maß an Kontrolle und Dokumentation erfordert.
Wir stoßen auch auf Fälle, in denen Mitarbeiter generative KI-Tools nutzen, um Analysen, Präsentationen oder Materialien für Managemententscheidungen vorzubereiten, ohne dass es klare Regeln für den Umgang mit Daten gibt. Dies kann dazu führen, dass sensible oder wirtschaftlich bedeutende Informationen unbeabsichtigt aus dem Unternehmen herauskommen. Aus Sicht der Regulierung und des Unternehmensrufs ist dies ein Risiko, das das Management oft erst erkennt, wenn es zu spät ist.
Der gemeinsame Nenner dieser Situationen sind nicht böse Absichten, sondern mangelnde Kontrolle. Künstliche Intelligenz drang schneller in Prozesse ein, als Regeln, Verantwortlichkeiten und Kontrollmechanismen geschaffen wurden. Der KI-Gesetz legt jedoch 2026 klar fest, dass dieser Ansatz nicht mehr akzeptabel ist.
Unternehmen, die KI langfristig und sicher einsetzen wollen, müssen von der zufälligen Nutzung zu einem systematischen Management übergehen. Das bedeutet, einen Überblick über alle KI-Systeme der Organisation zu haben, deren Zweck und Risiken zu verstehen, klar definierte Verantwortlichkeiten zu haben und die Einhaltung der geltenden Vorschriften nachweisen zu können. Es geht nicht darum, Innovationen einzuschränken, sondern ein Umfeld zu schaffen, in dem Innovation ohne unnötige rechtliche und reputationsbezogene Risiken funktionieren kann.
In diesem Bereich baut das BDO auf seine langjährige Erfahrung in Regulierung, Risikomanagement und Informationssystemen auf. Wir helfen Organisationen, die Anforderungen des KI-Gesetzes in praktisch funktionierende Prozesse umzusetzen. Wir konzentrieren uns darauf, sicherzustellen, dass das Unternehmensmanagement einen echten Überblick darüber hat, wie KI eingesetzt wird, wer dafür verantwortlich ist und wie die damit verbundenen Risiken gehandhabt werden. Unsere Unterstützung umfasst auch die Abstimmung der Anforderungen des AI Act mit anderen bewährten Rahmenwerken wie dem NIST AI Risk Management Framework oder ISO/IEC 42001.
Das Jahr 2026 ist für viele Unternehmen ein Wendepunkt. Künstliche Intelligenz ist definitiv ein Bereich geworden, der nicht allein der IT oder einzelnen Abteilungen überlassen werden kann. Es handelt sich um ein Thema strategisches Management. Organisationen, die es zeitnah und systematisch erfassen, schaffen eine stabile Grundlage für sichere Innovationen. Die anderen riskieren, zum ersten Mal auf den AI Act zu stoßen, nur während einer Überprüfung oder bei der Lösung eines bestimmten Problems.
Das BDO ist bereit, ein Partner zu sein, der Ihnen hilft, dieses Gebiet mit der nötigen Perspektive, Expertise und im Einklang mit den bereits geltenden Vorschriften zu verstehen. Wir besprechen gerne unverbindlich mit Ihnen, wie der Einsatz von künstlicher Intelligenz speziell auf Ihr Unternehmen angewendet wird und welches Verfahren im Jahr 2026 am sinnvollsten ist.
Künstliche Intelligenz ist in den letzten Jahren ein häufiger Bestandteil des täglichen Betriebs von Unternehmen geworden. Im Jahr 2026 nutzen Organisationen es nicht nur, um Prozesse zu automatisieren oder Daten zu analysieren, sondern auch um Mitarbeiter zu bewerten, Kundenbeziehungen zu verwalten, Preise festzulegen und strategische Entscheidungen zu unterstützen. Es ist jedoch gerade diese "unsichtbare" Integration von KI in Schlüsselprozesse, die eines der größten Risiken heute darstellt.
Der KI-Gesetz ist nicht mehr nur eine geplante Regulierung. Ausgewählte Bestimmungen der Verfassung sind wirksam, andere werden schrittweise angewendet. Unternehmen, die KI nutzen, müssen nachweisen können, dass sie wissen, wo und wie sie KI einsetzen, welche Risiken bestehen und wer für diese Entscheidungen verantwortlich ist. Für viele Organisationen ist dieses Ergebnis unangenehm – besonders wenn sie erkennen, dass sie keine Antwort auf diese Fragen haben.
Aus der Praxis sehen wir heute Fälle, in denen die Personalabteilung KI-basierte Werkzeuge nutzt, um Kandidaten vorab auszuwählen, ohne klar zu machen, auf welcher Grundlage das System Entscheidungen trifft und ob es kein diskriminierendes Verhalten zeigt. In anderen Unternehmen werden KI-Tools eingesetzt, um die Mitarbeiterleistung zu bewerten oder Personalmaße vorzuschlagen, während die Verantwortung für die endgültige Entscheidung formell beim Manager liegt, der jedoch die Funktionsweise des Algorithmus nicht versteht und keine Möglichkeit hat, dessen Ergebnisse realistisch zu überprüfen.
Ein weiteres häufiges Szenario ist der Einsatz von KI in der Kundenkommunikation. Heute entscheiden automatisierte Systeme, welche Angebote der Kunde erhält, welche Preise ihm angeboten werden oder wie seine Beschwerden gelöst werden. Wenn ein solches System die Situation falsch einschätzt, trifft das nicht den Technologieanbieter, sondern die Verantwortung der Organisation selbst. Darüber hinaus kann es im Kontext des KI-Gesetzes ein Hochrisikosystem sein, für das die Regulierung ein erhöhtes Maß an Kontrolle und Dokumentation erfordert.
Wir stoßen auch auf Fälle, in denen Mitarbeiter generative KI-Tools nutzen, um Analysen, Präsentationen oder Materialien für Managemententscheidungen vorzubereiten, ohne dass es klare Regeln für den Umgang mit Daten gibt. Dies kann dazu führen, dass sensible oder wirtschaftlich bedeutende Informationen unbeabsichtigt aus dem Unternehmen herauskommen. Aus Sicht der Regulierung und des Unternehmensrufs ist dies ein Risiko, das das Management oft erst erkennt, wenn es zu spät ist.
Der gemeinsame Nenner dieser Situationen sind nicht böse Absichten, sondern mangelnde Kontrolle. Künstliche Intelligenz drang schneller in Prozesse ein, als Regeln, Verantwortlichkeiten und Kontrollmechanismen geschaffen wurden. Der KI-Gesetz legt jedoch 2026 klar fest, dass dieser Ansatz nicht mehr akzeptabel ist.
Unternehmen, die KI langfristig und sicher einsetzen wollen, müssen von der zufälligen Nutzung zu einem systematischen Management übergehen. Das bedeutet, einen Überblick über alle KI-Systeme der Organisation zu haben, deren Zweck und Risiken zu verstehen, klar definierte Verantwortlichkeiten zu haben und die Einhaltung der geltenden Vorschriften nachweisen zu können. Es geht nicht darum, Innovationen einzuschränken, sondern ein Umfeld zu schaffen, in dem Innovation ohne unnötige rechtliche und reputationsbezogene Risiken funktionieren kann.
In diesem Bereich baut das BDO auf seine langjährige Erfahrung in Regulierung, Risikomanagement und Informationssystemen auf. Wir helfen Organisationen, die Anforderungen des KI-Gesetzes in praktisch funktionierende Prozesse umzusetzen. Wir konzentrieren uns darauf, sicherzustellen, dass das Unternehmensmanagement einen echten Überblick darüber hat, wie KI eingesetzt wird, wer dafür verantwortlich ist und wie die damit verbundenen Risiken gehandhabt werden. Unsere Unterstützung umfasst auch die Abstimmung der Anforderungen des AI Act mit anderen bewährten Rahmenwerken wie dem NIST AI Risk Management Framework oder ISO/IEC 42001.
Das Jahr 2026 ist für viele Unternehmen ein Wendepunkt. Künstliche Intelligenz ist definitiv ein Bereich geworden, der nicht allein der IT oder einzelnen Abteilungen überlassen werden kann. Es handelt sich um ein Thema strategisches Management. Organisationen, die es zeitnah und systematisch erfassen, schaffen eine stabile Grundlage für sichere Innovationen. Die anderen riskieren, zum ersten Mal auf den AI Act zu stoßen, nur während einer Überprüfung oder bei der Lösung eines bestimmten Problems.
Das BDO ist bereit, ein Partner zu sein, der Ihnen hilft, dieses Gebiet mit der nötigen Perspektive, Expertise und im Einklang mit den bereits geltenden Vorschriften zu verstehen. Wir besprechen gerne unverbindlich mit Ihnen, wie der Einsatz von künstlicher Intelligenz speziell auf Ihr Unternehmen angewendet wird und welches Verfahren im Jahr 2026 am sinnvollsten ist.