Menschliche Aufsicht über KI war unser Thema beim 3. Online-Meeting des „Alumni Freiburg – Club Schweiz“. Markus Langer, Professor für Arbeits- und Organisationspsychologie, hat zu diesem Thema vorgetragen und die anschliessende, sehr intensive Diskussion geleitet.
Einige Fragen, die wir besonders ausführlich diskutiert haben, waren:
1. Wenn Menschen die KI beaufsichtigen sollen, was können sie besser als die KI und müssen sie es für die menschliche Aufsicht über KI besser können?
2. Hochrisikoanwendungen stehen im Fokus der Regulierung. Risiken sind aber subjektiv. Kann dann ein einheitliches Verständnis über „Hochrisiken“ erreicht werden?
3. Vertrauen in die Lösungen einer KI verändert sich mit der Zeit. Wie spiegelt man dies in der menschlichen Aufsicht über KI?
4. Die Parameter und menschlichen Einflüsse, die bei der Entwicklung einer KI gesetzt und eingesetzt werden, sind nach der Entwicklung nicht mehr nachvollziehbar. Welche Möglichkeiten der Aufsicht gibt es nach Fertigstellung der KI?
5. KI-Modelle sind so konzipiert, dass sie ihre Nutzerinnen und Nutzer an das Modell binden. Dieses Binden wird von den Anbietern noch stärker verfolgt werden, wenn ihre Einnahmen aus Werbung stammen. Kann und soll mögliche „Übernutzung“ reguliert werden?
Vielen Dank an Markus für seine Zeit und vielen Dank an alle, die bei der Diskussion mitgemacht haben. Danke auch an Sonja Jost und Lynn-Katrin Haug für die Organisation.