BZT043: Algorithmenethik

Wir sprechen über Felix Sabatical und Guidos Seminarentwicklung rund um Algorithmenethik. Guido erklärt, wie man einen Socialbot erstellt und was Wahlcomputer über den Umgang mit der Digitalisierung erklären können.

Shownotes:

5 Gedanken zu „BZT043: Algorithmenethik

  1. Hallo ihr beiden.
    Danke für die neue Folge und vor allem für die vielfältigen Podcastempfehlungen! Sind abonniert…
    Da bekommt man direkt mal wieder Lust, über Audioproduktion im Klassenzimmer nachzudenken …
    Da der Lobo-Cast, den @gibro genannt hat, noch nicht in den Shownotes steht, hab ich ihn rausgesucht. Das müsste er sein, oder? http://m.spiegel.de/netzwelt/netzpolitik/netzpolitik-wie-schlimm-steht-es-um-deutsche-digitalpolitik-podcast-a-1160105.html
    Viele Grüße

  2. Vielleicht etwas spät zu Ende gehört, hier trotzdem etwas Rückmeldung, da mich das Thema sehr interessiert:

    Zum Thema Algorithmenethik möchte ich nocht ergänzen, dass gerade bei maschinellem Lernen die Blackbox Systeme ihre Entscheidungen treffen basierend auf der Datenlage, mit der sie trainiert wurden. Was aber, wenn diese Daten bereits (Vor-)Urteile enthalten? Auf der einen Seite könnten diese so uns selbst vor Augen geführt werden, auf der anderen Seite sich selbst reproduzieren, zB. bei der automatisierten Vorauswahl von BewerberInnen hinsichtlich Geschlechtsunterschiede, oder beim Predictive Policing hinsichtlich Herkunftsmerkmale. Anschaulichstes Beispiel und Verbindung zum Thema Bots dafür vielleicht die selbstlernende Twitter KI von Microsoft, die “Vom Hipster-Mädchen zum Hitler-Bot“ wurde (http://www.spiegel.de/netzwelt/web/microsoft-twitter-bot-tay-vom-hipstermaedchen-zum-hitlerbot-a-1084038.html)

    Guido: Ich bin überrascht, dass mit dem “einfach” manipulierten Wahlcomputer so eine große Aufmerksamkeit erzeugt wurde. Aber vielleicht ist gerade sowas wirklich ein gutes Beispiel für “das Digitale sichtbar machen” und grundsätzliche “rote Linien” für den Einsatz von Computern zu ziehen.

    Felix: Die Analogie, dass Google- oder Amazon-Bildungszertifikate ähnlich auf das Schulsystem wirken würden wie Tesla auf Automobilindustrie finde ich extrem spannend. Der Trend geht ja bereits dahin, dass Firmen wegen geringer Aussagekraft der Noten ihre eigenen Auswahlverfahren anwenden. Man beachte dann noch die vielen Initiativen (z.B. von Google: https://www.cs-first.com), welche in die Lücke des oftmals nicht stattfindenden Informtatikunterrrichts stoßen. Die entscheidenden Frage ist jedoch auch hier: Wer profitiert davon: Viele oder wenige?

    • Meine Zielgruppe sind ja auch die, die sich eher selten mit den politischen Folgen auseinandersetzen. Also den reinen “Anwendern”. Diese bewusste Auseinandersetzung mit den innewohnenden Eigenschaften des Digitalen sind eher selten. Danke für deinen ausführlichen Kommentar.

    • Die entscheidenden Frage ist jedoch auch hier: Wer profitiert davon: Viele oder wenige?

      Viele – sonst klappt es nicht. Zumindest wenn man profitieren im Sinne von partizipieren meint. Denn wenn ein Unternehmen mit einem solchen Zertifikat kommt und es relativ täuschungssicher ist, dann könnte es sich schnell durchsetzen.

      Nur: Ob das gesamtgesellschaftlich zum Vorteil dient?
      Mhh. Dazu müsste man wahrscheinlich zuerst klären, welchen Sinn und Nutzen Zertifikate grundsätzlich haben – und ob zum Beispiel gesellschaftlicher Ungleichheit alleine durch diese entgegengewirkt wird.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.