# Technik, Ethik, Zukunft - was denkst du? Session am 31.01.2020, Leitung: Axel Dürkop, TU Hamburg ## Thema: Maschinelles Lernen - wie geht das? Wir werden gemeinsam das Spiel [MENSCH, Maschine!](https://www.wissenschaftsjahr.de/2019/jugendaktion/) spielen und dabei heraufinden, was es heißt, wenn eine Maschine aus Daten und vom Menschen lernt. ![Brettspiel MENSCH, Maschine!](https://i.imgur.com/PDNOKUU.jpg) ## Allgemeine Informationen Alle Informationen zu diesem Angebot finden Sie auf der Webseite von [tekethics](https://tekethics.rz.tuhh.de/). ## Links und Informationen aus der Session In einer [Online-Literaturliste](https://zocurelia.com/de/list?groupID=2362604&list_collections=1) finden Sie Texte, die in die Themen der Session einführen oder sie ergänzen. Einige wurden auch von den Teilnehmenden angeführt und sind daher aufgenommen worden. Zu dem Spiel "Mensch, MASCHINE!" gibt es [eine offizielle Linkliste](https://www.wissenschaftsjahr.de/2019/jugendaktion/links-fuer-das-lehr-und-arbeitsmaterial/) mit weiterführenden Informationen zum Thema KI und Machine Learning. Außerdem kann [das Lehr- und Arbeitsmaterial zum Spiel von der Website www.wissenschaftsjahr.de](https://www.wissenschaftsjahr.de/2019/jugendaktion/) heruntergeladen werden. ## Formulierte Fragen in der Session In der Session haben die Teilgebenden verschiedene Fragestellungen formuliert, mit denen wir uns beschäftigt haben: - Wie ist es möglich, dem sozialem Druck standzuhalten, wenn man sich nicht an bestimmten sozialen Netzwerken beteiligt? - Was bedeutet es, wenn eine KI die Staatsbürgerschaft bekommt? (Sophia in Saudiarabien) - Was passiert, wenn Roboter/Maschinen Bewusstsein erlangen? - Welche Möglichkeiten gibt es, in die digitale Transformation gestalterisch Einfluss zu nehmen? - Wie kann man "Schmutz" in die Maschinen einwerfen? Wie kann ich mich von der Maschine überraschen lassen? Wie kommt das Unverhersehbare in die Maschine? - Inwieweit ist ein Moratorium für bestimmte Technologien sinnvoll? - Kann man den Maschinen freien Lauf lassen? Hierzu wurde ein Buch genannt, das in der Eile nicht erfasst werden konnte. ## Ideen für die kommenden Veranstaltungen - [Calliope](https://de.wikipedia.org/wiki/Calliope_mini), [Scratch](https://scratch.mit.edu/) etc. ausprobieren, damit "wir überhaupt wissen, worüber wir sprechen, wenn wir über Ethik und Digitalisierung reden" - Bots, Siri & Co. - gemeinsam das Spiel [Detroit: Become Human](https://de.wikipedia.org/wiki/Detroit:_Become_Human) spielen ## Links und Hinweise zum Weiterlernen - KIs, die sich gegenseitig Sprachen beibringen ([Unsupervised Learning](https://de.wikipedia.org/wiki/Un%C3%BCberwachtes_Lernen) und [Reinforment Learning](https://de.wikipedia.org/wiki/Best%C3%A4rkendes_Lernen)): - [Artificial intelligence goes bilingual—without a dictionary](https://de.wikipedia.org/wiki/Detroit:_Become_Human) - [It Begins: Bots Are Learning to Chat in Their Own Language](https://www.wired.com/2017/03/openai-builds-bots-learn-speak-language/) - [Google’s AI translation tool seems to have invented its own secret internal language](https://techcrunch.com/2016/11/22/googles-ai-translation-tool-seems-to-have-invented-its-own-secret-internal-language/) - KIs spielen klassische Spiele mittlerweile besser als Menschen: - [Einzelne KI ist bester Spieler in Go, Schach und Shogi](https://www.golem.de/news/alphazero-einzelne-ki-ist-bester-spieler-in-go-schach-und-shogi-1812-138132.html) - [Künstliche Intelligenz: Poker-KI Libratus kennt kein Deep Learning, ist aber ein Multitalent ](https://www.heise.de/newsticker/meldung/Kuenstliche-Intelligenz-Poker-KI-Libratus-kennt-kein-Deep-Learning-ist-aber-ein-Multitalent-3615068.html) - [Poker-KI Pluribus schlägt mehrere menschliche Profispieler gleichzeitig](https://www.heise.de/newsticker/meldung/Kuenstliche-Intelligenz-Poker-KI-Libratus-kennt-kein-Deep-Learning-ist-aber-ein-Multitalent-3615068.html) - [Conways Game of Life](https://de.wikipedia.org/wiki/Conways_Spiel_des_Lebens), kein Beispiel für KI, jedoch als Experiment sehr interessant - [Ausgabe 09/2019 der Zeitschrift zfm - Zeitschrift für Medienwissenschaft](https://www.zfmedienwissenschaft.de/heft) mit dem Schwerpunkt KI ### Video zur Geschichte künstlicher Intelligenz {%youtube UH_TuTKdF5U %} Video: "Schach dem Menschen. Deep Blues Sieg und die Geschichte Künstlicher Intelligenz." (Prof. Dr. Heßler). Quelle: [Youtube](https://www.youtube.com/watch?v=UH_TuTKdF5U). Das Video steht leider nicht unter einer freien Lizenz. ## Buchempfehlungen In der heutigen Session kam das Gespräch auf das Buch "Digitale Ethik" von Sarah Spiekermann sowie "Grundfragen der Maschinenethik" von Catrin Misselhorn. Beide sind [in der Leseliste der Session](https://zocurelia.com/de/list?groupID=2362604&list_collections=1) verlinkt. ## Reflexion der Session Es waren heute doppelt so viele Interessierte dabei wie beim letzten Mal, nämlich siebzehn. Besonders erfreulich war, dass einige Schüler_innen extra für die Session gekommen waren, weil sie an einem Wettbewerb zur Zukunft der Arbeit teilnehmen. Von ihnen wurde auch der Vorschlag eingebracht, in einer der folgenden Sessions das Spiel "Detroit: Become Human" zu spielen. Das Spiel "Mensch, MASCHINE!" wurde in vier Gruppen gespielt. Dabei sind die Teilnehmenden miteinander ganz unterschiedlich ins Gespräch gekommen, es wurde gelacht und auch heftig gedacht. "Reverse Engineering" wurde betrieben, um zu verstehen, wie es kommt, dass die Maschine immer sicherer wird. Nach einigen Runden allerdings trat so etwas wie Langeweile ein, weil der Reiz nachließ, die Maschine weiter zu trainieren. Vielleicht kam auch daher der Wunsch, "Schmutz" in die Maschine zu werfen, damit sie einen überrasche. Die Frage nach einem neuen Gegenstand für die kommende Session am 28.02.2020 brachte verschiedene Aspekte an Licht. Einige Teilnehmende wünschten sich eine Vertiefung konkreter philosophischer Fragestellungen, während andere anregten, sich durch praktische Erfahrungen zunächst mit Konzepten und Funktionen digitaler Technologien vertraut zu machen. ## Kommende Session am 28. Februar 2020 In der kommenden Session wollen wir uns im ersten Teil einfachen Zugängen zum Programmieren widmen, um eine gemeinsame Grundlage für die anschließende Diskussion zu schaffen. Die Ausgestaltung der Session erfolgt [in einem neuen Pad](https://hackmd.io/@xldrkp/BJ_hvdBfI). --- <a rel="license" href="http://creativecommons.org/licenses/by/4.0/"><img alt="Creative Commons Lizenzvertrag" style="border-width:0" src="https://i.creativecommons.org/l/by/4.0/88x31.png" /></a>&nbsp;tekethics ist ein Projekt der [Hamburg Open Online University (HOOU)](https://www.hoou.de/). Dieses Werk ist lizenziert unter einer <a rel="license" href="http://creativecommons.org/licenses/by/4.0/">Creative Commons Namensnennung 4.0 International Lizenz</a>. Wer zu diesem Dokument beträgt, stimmt der Lizenz zu. ###### tags: `tekethics`