Aber genauso unausweichlich scheint, dass die Software intelligenter als die Menschen sein wird.
Ich frag mich, was der Autor unter "Intelligenz" versteht. Wobei es da ja durchaus unterschiedliche Definitionen von Experten gibt ...
Klar ist, dass Software bestimmte Probleme besser lösen kann als ein Mensch, beim "Kopfrechnen" ist das ja schon lange so, und es kommen immer mehr Bereiche dazu (siehe das Medizin-Beispiel im Artikel).
Aber in der Regel kann Software nur eine bestimmte Problemsorte lösen. Menschen sind im, Vergleich dazu "Generalisten", verfügen also über eine umfassende Intelligenz im Gegensatz zu Spezialfertigkeiten.
Im Sommer schockierte er US-Gouverneure mit einem Szenario, in dem eine hochentwickelte Maschine einen Krieg starten könnte, um den Preis bestimmter Aktien zu beeinflussen.
Ein System, das Aktienmärkte beobachtet und auch in der Lage ist, einen Krieg zu "starten", dürfte wohl außerdem noch so viele Bereiche mit umfassen, dass KI auf absehbare Zeit da überfordert wäre. Das Szenario ist wohl nur so möglich, dass verschiedene Computer, die jeweils nur bestimmte Aufgaben erfüllen sollen, so vernetzt werden, dass sich eine schädliche "Synergie" ergibt. Das heißt aber auch, dass die Leute, die das entwickelt haben, die künstliche Intelligenz _überschätzt_ und deshalb auf notwendige Kontrollen durch Menschen verzichtet haben. Da ist ein Krieg eher unwahrscheinlich, aber im "Internet der Dinge" könnte noch manche Tücke lauern (von kriminellen Hackern mal ganz abgesehen).
Ein Test, ob ein System so etwas wie "umfassende Intelligenz" besitzt, dürfte Übersetzung sein. Denn da fließt stets auch Weltwissen ein, um sprachliche Mehrdeutigkeiten aufzulösen. Klar, wenn nur bestimmte Texte (z.B. nur Betriebsanleitungen für Haushaltsmaschinen) übersetzt werden sollen, reicht Wissen über einen Ausschnitt der Welt aus. und da könnte KI demnächst professionellen Übersetzern den Rang streitig machen. Aber das wäre auch keine menschliche (umfassende) Intelligenz. Die ist erst erreicht, wenn ein Programm wie Google Translator (das ja jede Art von Text übersetzen soll) so gut arbeitet wie ein professioneller menschlicher Übersetzer.