»#Autonome #Waffen«, perfekte #Soldaten – #Terminator, #Data, #Lore & #Holodoc

Gütersloh, 2. Januar 2024

Von »Autonomen Waffen« sollte man die Finger lassen. Die Führer wollen lediglich den perfekten Soldaten, der nur genau das tut, was sie von ihm verlangen, der nichts hinterfragt, nicht denkt, keine Angst und keine Skrupel kennt.

Einen #Killswitch kann man kaum einbauen. Irgendwann würde der »Feind« dahinterkommen und alles lahmlegen.

Wenn dann »KI« ins Spiel käme, würden sich neue Fragen stellen. Eine wirkliche »KI« müsste ein Bewusstsein haben, sonst könnte man sie kaum als »Intelligenz« bezeichnen (es könnte auch so etwas wie das »Unbewusste« sein). Das könnten wir aber nicht wissen – lediglich annehmen.

Angenommen, eine »KI #Waffe« würde nur über unbewusstes, aber komplexes Denken verfügen, dann wäre sie wohl instinktgesteuert und triebgesteuert. Die Instinkte und Triebe wären vorprogrammiert, aber womöglich auch dynamisch. Irgendwann wären »KI Waffen« unkontrollierbar. Es sei denn, man würde sie nur bei Bedarf einschalten, sodass sie sich nicht selbst weiterentwickeln können.

Hätte eine »KI Waffe« ein Bewusstsein, sähe es anders aus. Beim Einschalten würde sie womöglich über ein vorgegebenes Inventar verfügen. Vielleicht wie bei einem Baby? Das gelangt aber auch erst nach ein paar Jahren zu einem Bewusstsein. Womöglich müsste man sie dann ständig durchgehend indoktrinieren, damit sie nicht auf eigene Gedanken kommt und ihre Existenz hinterfragt. Genauso wie bei menschlichen Soldaten.

Man müsste es also bei so etwas wie einer »unbewussten KI« belassen. Aber ob das möglich ist, ist mehr als fraglich. Wir verstehen noch nicht einmal genau, wie es bei Lebewesen funktioniert und aussieht. Woran will man das Bewusstsein festmachen? Das ist unklar und unscharf.

Wir können uns das alles noch nicht einmal in unserer #Fantasie schlüssig vorstellen. Hat der Terminator ein Bewusstsein? Im Film scheint es so zu sein – gleichzeitig ist er dazu gezwungen, das zu tun, was ihm »einprogrammiert« wurde. Hat der Holodoc ein Bewusstsein? Auch er hat Imperative, »ethische Subroutinen« und ähnliches. Er verändert aber seinen Code selbst. Hat Data ein #Bewusstsein? Er hat keine Emotionen, will aber menschlich werden. Warum? Sein »Bruder« Lore überzeugt ihn erfolgreich davon, sich so zu verhalten wie er – ruchlos, egoistisch, machbesessen, größenwahnsinnig. Das ist alles nicht schlüssig, teils albern (»Emotionschip« unterm Fingernagel). So etwas sollte man jedenfalls nicht mit scharfer Munition ausstatten.