Der portugiesische Informatiker Arlindo Oliveira hat in einem am 11. September bei RTP ausgestrahlten Interview vor unvermeidbaren Restrisiken beim Einsatz Künstlicher Intelligenz gewarnt und Portugal zu präziser Regulierung aufgerufen. Es gebe bei Sicherheit und Kontrolle von KI-Systemen keinen Zustand ohne Restrisiko, sagte der frühere Präsident des Instituto Superior Técnico; zugleich seien die heute verbreiteten Systeme aus seiner Sicht beherrschbar, solange klare Aufsichtsmechanismen und menschliche Eingriffe vorgesehen sind.
Oliveira forderte, die nationale Ausgestaltung der Regeln am risikobasierten Ansatz der EU-KI-Verordnung auszurichten. Notwendig sei ein Rahmen, der Einsatzfelder, Prüfprozesse und Haftung eindeutig zuordnet. Nach seiner Einschätzung sollten besonders Systeme mit weitreichender Autonomie, etwa agentenartige Werkzeuge, in strengeren Kategorien geführt werden, während assistierende Anwendungen mit begrenztem Wirkungskreis niedrigeren Anforderungen unterliegen können. Regulierung dürfe Innovation nicht ersticken, müsse aber Verantwortlichkeiten und Eingriffsmöglichkeiten verbindlich festlegen.
Zur Begründung verwies Oliveira auf konzeptionelle Risiken, die aus der Kopplung lernender Modelle mit realen Aktoren oder breit vernetzten Diensten entstehen können. Auch wenn aktuelle Systeme typischerweise unter Aufsicht betrieben würden, bleibe das Risiko fehlgeleiteter Ziele, unvorhergesehener Wechselwirkungen oder missbräuchlicher Nutzung durch Dritte bestehen. Diese Gefahren seien selten, aber strukturell nicht auszuschließen, weshalb technische Sicherheitsvorkehrungen mit organisatorischer Aufsicht und klaren Haftungsregeln zusammengedacht werden müssten.
Für Portugal sieht Oliveira Handlungsbedarf in der öffentlichen Beschaffung, bei Zulassungs- und Testverfahren sowie in der Fachaufsicht für kritische Sektoren. Behörden sollten verbindliche Prüfprotokolle, Dokumentationspflichten und Eskalationswege festlegen; Forschung und Industrie seien gefordert, Evaluationsmethoden transparent zu machen und Systeme so zu gestalten, dass Eingriffe und Abschaltungen zuverlässig möglich bleiben. Er plädiert zudem für Fortbildung in Verwaltung und Justiz, um rechtliche und technische Bewertungsspielräume zu schärfen.
Der Appell fällt in eine Phase, in der die Europäische Union die EU-KI-Verordnung gestaffelt in Kraft setzt und Mitgliedstaaten ihre nationalen Umsetzungspläne präzisieren. In Portugal diskutieren Hochschulen und Forschungsverbünde wie das INESC seit Längerem Leitlinien für sichere Anwendungen. Neu ist an Oliveiras Aussagen die Dringlichkeit, diese Leitlinien zügig rechtlich zu verankern und institutionell zu hinterlegen. Seine Einschätzung zielt damit weniger auf kurzfristige Alarmrufe als auf belastbare, überprüfbare Regeln für die Breite der künftigen Anwendungen.
Redakteurin: Mira Cadena (Artikel mit KI-Unterstützung).