|
| 1 | += Meaningful Human Control (MHC) |
| 2 | +:categories: strategic-planning |
| 3 | +:roles: software-architect, product-owner, consultant, educator, team-lead, data-scientist, systems-thinker |
| 4 | +:related: regulated-environment, cynefin-framework, luhmann-system-theory, simon-constructivism, systemic-consulting |
| 5 | +:proponents: Article 36, Noel Sharkey, ICRC, UN CCW GGE, IEEE Global Initiative |
| 6 | +:tags: ethik, menschliche-kontrolle, autonomie, waffen, ki-governance, verantwortlichkeit, menschenrechte |
| 7 | +:tier: 2 |
| 8 | + |
| 9 | +[%collapsible] |
| 10 | +==== |
| 11 | +Full Name:: Meaningful Human Control (sinnerhaltende menschliche Kontrolle) |
| 12 | + |
| 13 | +Also known as:: MHC, sinnerhaltende menschliche Kontrolle über einzelne Angriffe |
| 14 | + |
| 15 | +[discrete] |
| 16 | +== *Kernkonzepte*: |
| 17 | + |
| 18 | +Substantielle menschliche Kontrolle:: Menschen müssen echte, substanzielle Kontrolle über autonome Systeme behalten, die folgenreiche Entscheidungen treffen — nicht nur formelhafte "Human-in-the-Loop"-Aufsicht |
| 19 | + |
| 20 | +Situationsbewusstsein:: Menschliche Bediener benötigen ausreichende Informationen über Ziel, Kontext, Systemverhalten und vorhersehbare Auswirkungen, um fundierte Urteile zu fällen |
| 21 | + |
| 22 | +Verantwortungskette:: Die für die Informationsbewertung und Handlungsausführung Verantwortlichen müssen klar identifizierbar und rechenschaftspflichtig sein; Verantwortung kann nicht auf Maschinen übertragen werden |
| 23 | + |
| 24 | +Sharkeys fünf Stufen:: Operativer Rahmen für menschliche überwachende Kontrolle: (S1) Mensch deliberiert vor Angriff → (S2) Programm schlägt Ziele vor, Mensch wählt → (S3) Programm wählt aus, Mensch genehmigt → (S4) Programm handelt, Mensch hat eingeschränktes Veto → (S5) vollautonom ohne menschliches Eingreifen |
| 25 | + |
| 26 | +Positive menschliche Handlung:: Die Einleitung kritischer Aktionen (insbesondere Gewaltanwendung) erfordert eine aktive menschliche Autorisierung, nicht nur passive Überwachung |
| 27 | + |
| 28 | +Vorhersagbare, zuverlässige, transparente Technologie:: Autonome Systeme müssen auf Vorhersagbarkeit, elegante Degradation und Transparenz ausgelegt sein, um sinnvolle Kontrolle zu ermöglichen |
| 29 | + |
| 30 | +Rechtzeitiges Eingreifen:: Menschliche Bediener müssen die Fähigkeit zu rechtzeitigem Eingreifen, Übersteuern oder Abbruch behalten — nicht nur vorprogrammierte Einschränkungen |
| 31 | + |
| 32 | +Key Proponents:: Article 36 (prägte den Begriff, 2013), Noel Sharkey (Fünf-Stufen-Rahmen, 2014), IKRK (befürwortete MHC als rechtliche/ethische Anforderung, 2018), UN CCW GGE (Leitprinzipien, 2019), IEEE Global Initiative (Ethically Aligned Design, 2019) |
| 33 | + |
| 34 | +[discrete] |
| 35 | +== *Verwendung*: |
| 36 | + |
| 37 | +* Entwurf oder Bewertung autonomer Systeme in kritischen Bereichen (Waffensysteme, medizinische KI, autonomes Fahren, kritische Infrastruktur) |
| 38 | +* Prüfung, ob die menschliche Aufsicht über ein KI-System wirklich wirksam oder nur prozessual ist |
| 39 | +* Definition von Verantwortungsketten für autonome Entscheidungsfindung |
| 40 | +* Anforderungsentwicklung für Systeme mit Autonomie in kritischen Funktionen |
| 41 | +* KI-Governance- und Ethikdiskussionen in Produktmanagement und Politik |
| 42 | +* Rechtliche und Compliance-Prüfung von KI-Systemen nach neuen Regulierungen (EU AI Act) |
| 43 | + |
| 44 | +[discrete] |
| 45 | +== *Nicht Verwenden*: |
| 46 | + |
| 47 | +* Bei risikoarmen Automatisierungsentscheidungen (Inhaltsempfehlungen, Spam-Filter, routinemäßige Datenverarbeitung) |
| 48 | +* Als Ersatz für domänenspezifische rechtliche Anforderungen (IHL, Medizinprodukteregulierung, Datenschutzrecht) |
| 49 | + |
| 50 | +[discrete] |
| 51 | +== *Verwandte Anker*: |
| 52 | + |
| 53 | +* <<regulated-environment,Regulierte Umgebung>> |
| 54 | +* <<cynebin-framework,Cynefin-Framework>> |
| 55 | +* <<luhmann-system-theory,Luhmann-Systemtheorie>> |
| 56 | +* <<simon-constructivism,Simon-Konstruktivismus>> |
| 57 | +* <<systemic-consulting,Systemische Beratung>> |
| 58 | +==== |
0 commit comments