Weil der Mensch die gefundenen Informationen ( abhängig von seiner sozialisation und deinem Kulturellen Hintergrund) moralisch bewertet. Das was die Ki sagt ist ja faktisch nicht falsch.
Das ist ja auch Inhalt vielen Science Fiktion Romanen das logische Sachen oder Pläne die eine Ki berechnet nicht immer „menschlich“ sind. Ich denke das es eine sehr schwierige Aufgabe ist eine Ki so zu programmieren das ihre Antworten auch den moralvorstellungen der jeweiligen Kultur entspricht.
Ein Beispiel für das Problem Was in einen Science Fiktion Film wehre das eine Ki die Aufgabe bekommt das Ökosystem des Planeten zu retten und dabei errechnet das die Ausrottung oder Versklavung von der Menschheit der beste Weg ist diese Aufgabe zu erfüllen.