# ****Der Mensch und seine Daten****

# Dokumention des Fachtages:
==Wir möchten darauf hinweisen, dass das gesprochene Wort des Vortrages gilt.==

Ein Fachtag für Lehrer:innen, Pädagog:innen, politische Bildner:innen und alle Interessierten findet

*10:00 - 16:00 online über Zoom statt.*

Ob wir unser Smartphone nach einer Wegbeschreibung fragen, mit anderen per Messenger kommunizieren oder eine Reise online buchen: All unsere digitalen Schritte addieren sich zu einer riesigen Datenspur - dadurch werden wir selbst zur Ware. Basierend auf unserem Nutzungsverhalten werden Vorannahmen über unser künftiges Verhalten getroffen, anhand unserer Daten werden wir eingeschätzt und bewertet: Wir erhalten personalisierte Inhalte, die unser Kaufverhalten oder auch unsere (politische) Meinungsbildung beeinflussen sollen.

Algorithmen sind fester Bestandteil unseres Alltags und werden inzwischen in sehr vielen Bereichen eingesetzt: Sie entscheiden über unsere Kreditwürdigkeit, beeinflussen juristische Prognosen und finden bereits jetzt breiten Einsatz in der Gesundheitsversorgung. Immer mehr Entscheidungen und Arbeitsabläufe werden automatisiert, ohne dass wir die Kriterien nachvollziehen können.

Was bedeutet das für unsere Gesellschaft? Darum geht es in dem Fachtag „Der Mensch und seine Daten“

---

**DAS PROGRAMM:**

Die Vorträge widmen sich der Frage nach der ethischen Bewertung künstlicher Intelligenz. Welche Chancen und Risiken sind mit dem Einsatz von automatisierten Entscheidungsprozessen verknüpft?

## VORTRAG 1 | 10:15 – 11:15

**Chinas Social Credit Systeme: Nudging & Scoring – Internationale Überwachung und Kontrolle im Zeitalter der Digitalisierung**

Durch unsere Nutzung des Internets, mobiler Endgeräte wie sogenannter Smartphones und bargeldlosem Bezahlen hinterlassen wir ständig Datenspuren. Die zunehmende Kameraüberwachung des öffentlichen Raums liefert vom analogen Leben Daten in Form von Bildern. Selbst Privaträume werden mit dem Argument der Bequemlichkeit mit Mikrophonen und Kameras gespickt. All diese Daten können neben staatlichen auch von privaten Akteuren gesammelt und ausgewertet werden. Daraus können sogenannte »Scores« oder Punktestände als Bewertungsmaßstäbe für Einzelne gebildet werden, ohne dass die Betroffenen davon wissen. In China erfolgt die Punktvergabe nun öffentlich durch die Einrichtung von Digitalen Gesellschaftlichen Bewertungssystemen (Englisch: »Social Credit Scores«). Was sind die Hintergründe des Einrichtens solcher Systeme und welche Daten können schon heute hier über uns gesammelt werden? Welche Konsequenzen ergeben sich heute für die Privatsphäre, welche als existentiell für die Menschenrechte angesehen wird?

In ihrem Vortrag führt Katika Kühnreich am Beispiel Chinas durch heute schon existente Möglichkeiten der Datensammlung und -auswertung, um dann auf die Situation in unserem eigenen Leben einzugehen. So soll auch die Frage erörtert werden, was vom Konzept der Privatsphäre im Zeitalter der Digitalisierung übrigbleiben kann und welche Möglichkeiten es noch zum Schutz unserer Daten gibt.

Katika Kühnreich | Politikwissenschaftlerin und Sinologin, Forschungsschwerpunkte: gesellschaftliche Auswirkungen der Digitalisierung und der Umgang mit gesellschaftlichem Dissens.

**Dokumentation:**

#### Social Credit System in China

- Wieso werden sie eingerichtet?
- Vertrauen in der Bevölkerung herstellen
- jeder Chinesin und jedem Chinesen den Zugang zu kommerziellen Krediten gewähren zu können
- Zusammenführung von Informationen über lokale und regionale Grenzen hinaus
- Gerechtigkeit

* China hat die ersten Richtlinen 2014 auf den Weg gebracht
* Sie bieten die Möglichkeit einer Zusammenführung von analogen und z.T. schon vorhanden Daten mit neuen
* Staatliche und private Systeme werden unterschiedlich behandelt
* Ein landesweites System ist noch nicht eingeführt und es ist auch noch nicht klar, wie es ausschauen wird
#### Wie können die Daten erhoben und verküpft werden?
* Zusammenarbeit zwischen privaten und staatlichen Datenbanken
* Maschinelles Lernen (Künstliche Intelligenz)
* Gesichtserkennung
* Klarnamenregistrierung
* Ortung - das Handy als "tragbare Hochleistungswanze"
* Zusammenarbeit zwischen privaten und staatlichen Einrichtungen

#### Wohin kann das führen?
* Zu einer Schere im Kopf, die greift, bevor staatliche Zensur eingreifen muss

#### Wie kann das passieren?
* Mithilfe von Gamification als Werkzeug
* Gamification will Verhaltensänderungen erreichen
* Gamification greift z.B bei Sozialen Plattformen wie Facebook

:::info
Kybernetik (die Wissenschaft vom Steuern und Regeln von Maschinen)
->Alles was Cyber im Namen hat, kann der Kybernetik zugeordnet werden
:::

#### Peters Problem
- alles was wir im Internet tun, wird von Maschinen verwertet und in Kategorien eingeteilt
- Ihre Handlungen werden sortiert und in Kategorien eingeteilt - irrelevant ob diese Kategorien zutreffen oder nicht

#### Verwendete Kategorien im Westen
- Religion
- Interesse an Diäten
- Anzahl der Online-Freund_innen
- anzahl der wirklichen Freund_innen
- Interesse an Gartenarbeit
- politische Ansichten
- Abtreibung vorgenommen
- offizielle sexuelle Orientierung
- Wirkliche sexuelle orientierung
- uvm.


#### Themen des Vortrags
* Die Auflösung der Privatsphäre
* Verhaltensbeeinflussung
* Machtverschiebung (Daten sind Macht und deren Abgabe kann das Machtgefüge verändern)
* Menschenbilder
#### Was ergibt sich daraus ?
* Daten sind Macht
* Datenproduktion kann uns und anderen schaden
* Es werden Abhängigkeiten erzeugt
* Regierungen kommen und gehen, Daten bleiben bestehen
* Wir müssen uns entscheiden, ob wir in Zukunft Nutzer_innen oder Mitbestimmende sein wollen

Weitere Infos gibt es unter:
[media.ccc](https://media.ccc.de)
[socialcooling](https://socialcooling.de)


---

## VORTRAG 2 | 11:30 – 12:30

**Algorithmen fürs Gemeinwohl?!**

Algorithmische Systeme sind bereits fester Bestandteil unseres Alltags, sie werden für medizinische Diagnosen und Kriminalitätsprognosen eingesetzt genauso wie bei Stellenausschreibungen oder Kreditvergaben. Aktuell werden vordergründig Anwendungsbeispiele diskutiert, bei denen algorithmische Systeme Ungleichbehandlungen oder Diskriminierung verstärkt haben. Seltener wird darüber gesprochen, wie algorithmische Systeme auch dazu genutzt werden können, Chancengerechtigkeit zu erhöhen und Teilhabe zu stärken. Im Vortrag werden Risiken und Chancen des Technologieeinsatzes anhand von anschaulichen Fallbeispielen präsentiert und über ethische Fragestellungen diskutiert. 

Julia Gundlach | Projekt „Ethik der Algorithmen“ bei der Bertelsmann Stiftung

**Dokumentation:**

- Der momentane Diskurs zum Thema Algorithmen entzweit sich in Dystopie oder Utopie
- Algorithmische Systeme sind fester Bestandteil unseres Alltag und sie sind Werkzeuge (z.B. in der Medizin oder in der Sicherheit)

#### Künstliche Intelligenz
- starke KI kann menschliche Fähigkeiten kopieren
- Bsp. selbstfahrende Autos -> haben ein größeres Lernfeld
- schwache KI ist nur in Teilbereichen effizient (Ein Schachcomputer spielt z.B. sehr gut Schach, kann aber nicht das Wetter berechnen)

#### Algorithmen sind Handlungsanweisungen (Programmiercodes)

- Algorithmen sind soziotechnische Systeme (sie sind auf soziale Einbettung angewiesen)
- Algorithmische Systeme sind nur der datenbasierte Rückspiegel unserer Gesellschaft
- Es birgt ein hohes Risiko wenn nur wenige den Code gestalten
- Algorithmen sind keine Allheilmittel

#### AlgoRules: 9 Regeln für die Gestaltung algorithmischer Systeme

#### Chance von algorithmischen Systemen
- Umgang mit Komplexität
- Effizienz
- Konsistenz
- Fairness
- Transparenz

#### Kitaplatzvergabe effizienter, schneller und gerechter machen durch ein algorithmisches System?

- Probleme

* Bedarf liegt höher als Betreuungsquote
* Planungssicherheit und Organisationsaufwand
* keine einheitlichen Kriterienkataloge
* Strategisches Verhalten und Informationsunterschiede

#### Algorithmeneinsatz bei der Kitaplatzvergabe
1. Einheitlicher Kriterienkatalog
2. Präferenz der Eltern
3. Matching-Algorithmus
->Führte dazu, dass alle Eltern die bestmöglichen Kitaplätze annehmen konnten
#### Potentiale
- Effizientere Verteilung
- stabilere Verteilung
- kein strategisches Verhalten
- Schnellere Platzvergabe
- Zeit fürs Wesentliche
- mehr Planungssicherheit
- weniger Verwaltungsaufwand
- Vertrauen in den Prozessen
- Fairnes/ Gerechtigkeit
- Anmeldehürden herabgesenkt (Sind allerdings nicht automatisch gesenkt)
- mehr Transparenz
- einheitliche Kriterienkataloge

- Herausforderungen
- Kitas stehen Vereinheitlichungen oft skeptisch gegenüber, da sie in die eigene Autonomie eingreifen
- Datenschutz und Haftungsschutz müssen geklärt sein
- Homogenität durch ähnliche Angaben von ähnlichen Familien

#### Es geht nur mit den Menschen und nicht gegen sie
- Durch Algorithmen wird es allerdings nicht mehr Kitaplätze geben
- Algorithmen sind nicht per se gut oder schlecht. Es kommt darauf an, wie wir sie gestalten!

#### Wir brauchen ein Ökosystem für KI-Ethik!
- Breite gesellschaftliche Debatte
- Kontrolle und Accountability
- Förderung von algorithmischer Vielfalt
- Kompetenzaufbau (bisher wenig Förderung im Sinne des Allgemeinwesens / Im Softwareentwicklungsbereich mehr ethische Weiterbildung)

[Ideenwettbewerb zum Thema KI](https://www.civic-innovation.de/start)
*Anmeldung bis zum 15.12.20*

Mehr zum Projekt Ethik der Algorithmen
unter [www.algorithmenethik.de](https://algorithmenethik.de)

[Algorithmen im Kinder- und Jugendschutz(USA)](https://algorithmenethik.de/2018/01/22/die-algorithmische-kristallkugel-der-us-kinderschutzbehoerden/)

[Technologieförderung von Public Interest Tech](https://prototypefund.de)

[Artikel, der die Schuleinzugsgebiet-Zuteilung in Berlin Tempelhof-Schöneberg mit Algorithmuseinsatz erläutert](https://legal-revolution.com/de/the-legal-revolutionary/itk/algorithmen-und-transparenz)

Bei weiteren Nachfragen: [e-mail]


---

==Mittagspause==

---

## WORKSHOPS:

In den Workshops werden wir uns den Themen des Tages mit medienpädagogischen und politisch-bildnerischen Methoden spielerisch und praxisorientiert nähern. Beide Workshops finden parallel statt.

---

### Big Data Lernparcours | 14:00 – 15:30
Big Data-Analytics: Chancen und Risiken der neuen technologischen Möglichkeiten.

Esther Lordieck | jfc Medienzentrum Köln
[https://www.jfc.info/](https://)

**Dokumentation:**

#### Woher kommen Daten und wer sammelt sie?

- Smartphone mit seinen vielen Sensoren und den Anwendungen (Mit Phyphox oder Actionbound kann man Sensoren im Smartphone kennen lernen und überprüfen)
- Internet der Dinge (jedes Gerät das eine IP-Adresse hat)
- Tracking im öffentlichen Raum

#### Was können Datenanalysen leisten?

- Als erstes kann man sich zum Verständnis das Verfahren von Datenanalysen anschauen
1.Tracking
2.Profiling
3.Prognosting
4.Scoring
- Endscheidung nach Datenlage
- Exakte Profile und Prognosen entstehen

*Methoden*
[Clickclickclick.click](https://clickclickclick.click/#1b77ae1ef68bc61109fde3ab2c6fe022): Hier kann man sich anschauen, was alles auf einer Seite für Informationen erfasst werden können, wenn man eine Internetseite besucht

Roboter Parcours
#### Was kann sie nicht leisten?

- Korrelation vs. Kausalität
- Wechselseitige Beziehungen werden oft irrtümlich für Ursachen gehalten
- Selsterfüllende Prognosen

*Methoden*
Meine Filterblase

#### Anwendungsgegenstände

- Vermessung der Natur
- Technologien
- Menschen
- Soziometrie
- Biometrie
- Psychometrie

#### Anwendungsbereiche

- Nutzung durch den Staat
- Kommerzielle Nutzung
- Nutzung durch Zivilgesellschaft

*Methoden*
Life Profiler
Start-Up in Datarryn

#### Anwendungen bewerten und einschätzen
- Sicherheit vs. Kontrolle
- Transparenz vs. Schutz des Privaten
- Prognose vs. freier Wille
- Daten als Kapital Einzelner vs. Daten als gemeinsamer Besitz
- ewiger Datenspeicher vs. Recht auf Vergessen

#### Was können wir tun?
- Abstinenz? (Ist das überhaupt möglich in der heutigen Gesellschaft?)
- Aufklärung?
- Digitale Selbstverteidigung
- Politisches Engagement

*Methoden*
Digitopia

Alle Methoden des Big Data Methodenpakets gib es unter [http://bigdata.jfc.info/methoden.html](http://bigdata.jfc.info/methoden.html)

Weitere Infos gibt es unter [Big Data-jfc Medienzentrum e.V.](https://vimeo.com/user66430278)

[Filmempfehlungen zum Thema Big Data](http://bigdata.jfc.info/download/jfc_BIGDATA_Filmempfehlungen.pdf)

[Zukunftswerkstatt](https://www.jfcmedienzentrum.de/digitopia/)

Die Präsentation [https://prezi.com/view/AkD4299kYWII5Gorlv0p/](https://)

---

### Canvas City | 14:00 – 15:30

Ein Augmented-Reality-Spiel zu den Themen Künstliche Intelligenz und Smart City.

Robert Alisch| mediale pfade Berlin

[https://medialepfade.org/projekt/canvas-city/](https://)

**Dokumentation:**

**Quiz zum Einstieg**
- Science Fiction wird oft abgetan als pure Phantasie, aber viele technische Entwicklungen/Errungenschaften wurden in Science Fiction- Filmen/Büchern etc. "erfunden" bzw. zum 1. Mal beschrieben

**Edutainment**
* Education+Entertainment* Lernen und Spielen haben viele Gemeinsamkeiten, weshalb sie gut zusammenpassen
* Lernen funktioniert am besten, wenn Dinge ausprobiert werden, Spielen dementsprechend gut geeignet, um Wissen zu erwerben
* **Selbstwirksamkeit** wird beim Spielen gefördert, kann dort erfahren werden
* Interaktion beim Lernen ist entscheidend für bestimmte Lerneffekte -> auch beim (digitalen) Spielen Interkation mit Mitspielenden und dem technischen Spielsystem eine wichtige Rolle
* Lernklima und Flow wirken sich positiv auf Lernen/Spielen aus
* wichtig für einen guten **Flow**: strukturierte Aufgaben, an Fähigkeiten angepasste Aufgaben, Fokussierung auf Aufmerksamkeit, Kontrolle über die Situation, eindeutige Rückmeldung über Erfolg/Misserfolg
* Spielende dürfen weder über- noch unterfordert werden
* Schwierigkeit der Aufgaben nimmt mit Fortschritt der Spielenden zu

-> Lernen & Spielen gehören immer irgendwie zusammen
-> wichtige Grundlagen, welche die Entwicklungsbasis für das Spiel *Canvas City* bilden

**Digital game based learning (DGBL)**
- Interaktivität (Interaktion mit dem Spielsystem und Mitspielenden)
- Multimedialität (Darstellung komplexer Inhalte möglich, Vielfalt von Lerninhalten und -themen)
- Involvement (Fokus auf Lernen/das Spiel, wenig Ablenkungsgefahr, individuelle Anpassung der Lerngeschwindigkeit)
- Belohnung (Motivation herstellen+erhalten, Selbstwirksamkeit erfahren, Feedback über individ. Fortschritt)
- soziales Erlebnis (gemeinsames+kooperatives Lernen, Austausch zwischen Lernenden/Spielenden, Anschlusskommunikation)
Quelle [https://www.medienanstalt-nrw.de/fileadmin/lfm-nrw/Publikationen-Download/Doku41-Spielend-Lernen.pdf](https://)

**Canvas City**
- Zielgruppe: Menschen ab 14 Jahren
- Bildungsprojekt zu Fragen der digitalisierten Gesellschaft
- von medialepfade.org e.V. in Kooperation mit basa e.V. entwickelt
- ein AR location based Multiplayer für mobile Endgeräte (bisher mit bis zu 30 Teilnehmenden gespielt)
- Open Educational Resource
- für Tablets android-basiert entwickelt -> auch mit Smartphones möglich, allerdings hindert der kleine Bildschirm an einer guten Teilnahme am Spiel

*-> Themen des Spiels:*
- algorithmische Entscheidungsfindung
- Überwachung des öffentlichen Raums
- Smart City als gemachte Infosphäre
- Partizipation in digitalen Räumen
- Arbeitsmodelle der Digitalisierung
- Ambivalenz von Technologienutzung
- (politische) Entscheidungen über Technologienutzung in Ermangelung umfassenden Wissens

*-> Formate & Lernen:*
- Türöffner
- Erfahrungsbasiertes Lernen
- Lebensweltorientierung
- Reflektion & Workshops
- gemeinsame Primärerfahrung
- Play to loose
- Entscheidungen mit Konsequenzen
- Synthese von realer Welt und Cyberspace

*-> Bildungsziele:*
- **Diskurs um Digitalisierung**: erste Einblicke
- **Reflexion von Zugangsmöglichkeiten**, In-Exklusion, **Macht- und Geschlechterverhältnisse** + ethische und politische Dilemmata
- **Erleben, Reflektieren und Beurteilen** des (Spiel-)Handelns im Kontext demokratischer Herausforderungen um Digitalisierung und Prüfung von (neuen) Handlungsoptionen in eigener Lebenswelt

*-> Kernelemente:*
- sessionbasierter Multiplayer
- Augmented Reality
- Location based
- Artefakte manipulieren
- Interaktivität

**Video über das Spiel:**
{%youtube Z3l6S5sDBLw %}

Kontakt: gocanvas.city
https://www.instagram.com/medialepfade/

---