Programme lernen zunehmend selbstständig und treffen eigenständig Entscheidungen. Damit sind Menschen zunehmend mit dem Verhalten von Maschinen konfrontiert. Unter dem Titel "Machine Behaviour" wollen sich Forscher diesem Phänomen verstärkt annehmen. Am Wiener Complexity Science Hub (CSH) findet bis 7. September eine Konferenz statt, mit der ein neues Forschungsfeldes etabliert werden soll.
Unvergessen sind die Szenen aus dem Film "2001: Odyssee im Weltraum", in dem der Bordcomputer HAL zunehmend neurotisches Verhalten an den Tag legt, Besatzungsmitglieder tötet und Angst zeigt, als er sukzessive abgeschalten wird. In der Realität ist die Künstliche Intelligenz bei weitem noch nicht so weit fortgeschritten, doch David Garcia vom CSH ist bei seinen Analysen zum Verhalten von Menschen in sozialen Netzwerken immer wieder auf Effekte gestoßen, die auf die technische Plattform und nicht unbedingt auf die Nutzer zurückzuführen waren.
Interaktion anders als "offline"
Im Kern gestalte sich die Interaktion in diesen Netzwerken einfach anders als "offline". "Ich habe mich immer gefragt, was sozusagen die Rolle der Maschine dabei ist", sagte Garcia, der den Workshop "Machine Behaviour: A new field of research" initiiert hat, im Gespräch mit der APA. So könne die Software hinter solchen Netzwerken mittlerweile auch Daten über Menschen sammeln, die dort gar keinen Account haben, erklärte der Wissenschafter, der am CSH eine Forschungsgruppe leitet. "Hier zeigt sich, dass wir wirklich analysieren müssen, wie sich Maschinen verhalten."
Entgegen mancher Science-Fiction-Dystopien handle es sich hier nicht um ein Phänomen, das an einer zentralen Entwicklung festgemacht werden könne, sondern vielmehr um eine langsame technische Evolution im Spannungsfeld zwischen Mensch und Maschine. In der Softwareentwicklung entstanden über lange Zeit hinweg Programme, die einen bestimmten Zweck erfüllen. Wenn nun aber eine Software eingeständig ihr "Verhalten" etwa durch die Beobachtung von Menschen anpasst oder sich ihren eigenen Reim auf ihr zur Verfügung stehende Daten macht, sei alles nicht mehr so einfach vorherzusagen. Es handle sich vielmehr um komplexe Systeme, mit denen man komplexe Fragen zu beantworten sucht. Bei solchen Systemen sei es überdies gar nicht einfach zu klären, ob eine Antwort auch tatsächlich richtig ist.
Herkömmliche Analysen greifen nicht
Ein Feld, das Computersysteme und Menschen bereits seit längerer Zeit zumindest auf Augenhöhe prägen, ist der Aktienmarkt. Für die meisten Transaktionen zeichnen dort mittlerweile Algorithmen verantwortlich. Garcia: "Das ist ein System, wo wir es mit einem kollektiven Verhalten von Maschinen und Menschen zu tun haben." Es werde immer klarer, dass man hier mit der herkömmlichen Analyse des Ziels eines einzelnen Handelsalgorithmus nicht weit komme. "Das wird uns nicht viel darüber sagen, was passiert, wenn wir ihn mit Millionen anderen Algorithmen und Millionen Menschen interagieren lassen", so der Experte: "Wir brauchen neue empirische Wissenschaft, um dieses Verhalten zu verstehen."
Im Rahmen der Konferenz, bei der auch zu einer öffentlichen Veranstaltung geladen wird, werden Komplexitätsforscher, Computerwissenschafter, Psychologen, Sozialwissenschafter, Mathematiker oder Physiker über einschlägige Forschungsfragen sowie wissenschaftliche Herangehensweisen und Standards in dem Gebiet diskutieren. Es gehe vor allem darum, das neue Forschungsfeld "richtig aufzusetzen" und maßgebliche Forscher inklusive der Bevölkerung einzubinden, so Garcia.
Service: Website der Konferenz: https://machinebehavior.org; Information zum öffentlichen Teil: www.csh.ac.at/event/csh-colloquium-machine-behavior/
(APA/red, Foto: APA/APA (dpa))
