Der KI-Pionier Geoffrey Hinton fordert weltweit strengere Regeln für Künstliche Intelligenz. Er warnt vor einer superintelligenten Technologie, für deren Sicherheit bisher viel zu wenig investiert wird.
Geoffrey Hinton, einer der maßgeblichen Wegbereiter der modernen Künstlichen Intelligenz (KI), schlägt erneut Alarm: Die Welt braucht dringend einen wirksamen Rechtsrahmen für die rasant fortschreitende Technologie.. Bei einer Konferenz in Genf betonte der diesjährige Nobelpreisträger für Physik, dass die aktuelle Entwicklung einem hochmotorisierten Fahrzeug ohne Lenkrad gleiche.
Die Debatte um Künstliche Intelligenz wird derzeit von technischem Optimismus und kommerziellen Interessen dominiert.. Kritiker strenger Regeln argumentieren oft, dass staatliche Eingriffe den technologischen Fortschritt ausbremsen würden.. Hinton hält dem entgegen, dass diese Rhetorik bewusst eingesetzt werde, um notwendige Sicherheitsvorkehrungen zu verhindern.. Für ihn ist die Analogie klar: Während Befürworter eines ungeregelten Wachstums die Regulierung als Bremse bezeichnen, sieht er sie als unverzichtbares Steuerinstrument, um eine Katastrophe zu verhindern.
Die Besorgnis des 78-jährigen Wissenschaftlers gründet auf der Geschwindigkeit, mit der KI menschliche Fähigkeiten erreicht oder gar übertrifft.. Besonders auf dem Arbeitsmarkt zeichnen sich durch den Einsatz von KI in Bereichen wie Callcentern oder administrativen Tätigkeiten bereits massive Umbrüche ab.. Hinton prophezeit, dass eine kommende superintelligente KI nahezu jede geistige Arbeit effizienter erledigen könnte als ein Mensch.. Die Frage ist daher nicht nur, ob Maschinen die Arbeit übernehmen, sondern wie die Gesellschaft mit einer Technologie zusammenleben kann, die intellektuell möglicherweise weit überlegen ist.
Ein kritischer Blick auf die Sicherheitsforschung
Besonders alarmierend findet Hinton das Missverhältnis bei der Ressourcenverteilung.. Während Milliarden in die Leistungssteigerung von KI-Modellen fließen, landen Schätzungen zufolge nur etwa ein Prozent der Gesamtarbeit in der Sicherheitsforschung.. In der Sicht von Misryoum ist dieses Ungleichgewicht ein zentraler Schwachpunkt unserer heutigen Innovationskultur.. Wenn die Entwicklung eines Systems, das die menschliche Zivilisation fundamental verändern könnte, kaum auf seine langfristige Verträglichkeit geprüft wird, handeln wir grob fahrlässig.
Der Wechsel vom Entwickler bei Branchenriesen wie Google hin zum Mahner unterstreicht die Dringlichkeit, die Hinton empfindet.. Er sieht uns an einem historischen Wendepunkt.. Während die technischen Möglichkeiten explodieren, hinken die sozialen und ethischen Leitplanken weit hinterher.. Das Zusammenleben mit einer superintelligenten Entität ist kein theoretisches Gedankenspiel mehr, sondern eine reale Herausforderung, der wir uns stellen müssen, solange wir noch die Kontrolle über den Entwicklungsprozess behalten.
Die Notwendigkeit globaler Kooperation
Die internationale Zusammenarbeit ist für Hinton der einzige Weg, um dieses Risiko zu minimieren.. Einzelne Firmen oder Staaten können diesen Prozess nicht allein steuern, da der Wettbewerbsdruck oft die ethische Reflexion überlagert.. Eine globale Übereinkunft über Sicherheitsstandards wäre ein notwendiger Schritt, um die technologische Entwicklung in Bahnen zu lenken, die das langfristige Überleben und das Wohlergehen der Menschheit garantieren.. Letztlich geht es darum, eine Symbiose zu schaffen, anstatt blind auf eine technologische Singularität zuzusteuern, deren Konsequenzen wir heute noch nicht in Gänze erfassen können.