In der aktuellen Folge des Denkangebot Podcast geht es um das Thema „Diskriminierung durch Technik“. Im Rahmen der Recherche habe ich mit Prof. Dr. Katharina Zweig gesprochen. Sie lehrt an der TU Kaiserslautern, leitet dort das Algorithmic Accountability Lab, und ist eine der führenden Expertinnen in Deutschland, wenn es um die Bewertung der Risiken und Chancen des Einsatzes von künstlicher Intelligenz geht. Das komplette Interview gibt´s als kleines Extra in ganzer Länge für Euch.
Algorithmische Vorhersage und Mitbestimmung: Zum Verhältnis von „Predictive Risk Intelligence“ und Interessenvertretung. Ein Forschungsprojekt des Momentum Instituts und der...
Radikalisiert der Empfehlungsalgorithmus von Youtube die Zuschauer? Eine interdisziplinare Untersuchung verneint und schlägt vor, nach neuen Gründen zu suchen.
Knapp 90 Staaten verhandeln hinter verschlossenen Türen in Genf über einen Vertrag, der digitale Handelsschranken abbauen soll. Dabei drängte die EU auf eine Regel, die IT-Sicherheit gefährden und Algorithmen-Transparenz verhindern könnte, fürchten Abgeordnete.
Die EU-Kommission hat erstmals ein Gesetz zur Regulierung von automatisierten Entscheidungssystemen vorgelegt. "Massenüberwachung" durch KI soll damit verboten werden, biometrische Echtzeit-Überwachung soll in einigen Fällen aber erlaubt bleiben.
Künstliche Intelligenz und maschinelles Lernen bestimmen unser Leben immer mehr. Entwickler sollten sich nicht auf ihren Code zurückziehen, sagen zwei Experten.
Computer können heute Krankheiten diagnostizieren, Verbraucher am Servicetelefon beraten oder ganze Fabriken kontrollieren. Das funktioniert durch den Einsatz von Künstlicher Intelligenz. KI wird die Arbeitswelt stark verändern. // Von Katja Scherer /
Der Faktor Mensch kommt in Digitalisierungsstudien oft zu kurz. Dabei hat der digitale Wandel enorme Auswirkungen auf die Arbeitswelt, die auch gefährlich sein können. Durch den aktuellen Digitalisierungsschub ist jetzt ein idealer Zeitpunkt, um über die kritischen Punkte zu sprechen.
Ein offener Brief fordert Konzernchef Jeff Bezos dazu auf, die Rechte seiner Beschäftigten zu achten. Zugleich wird bekannt, dass der Konzern mit Software mögliche Gewerkschaftsbildung überwacht.
Beflügelt von der Aufbruchstimmung im sozialistischen Chile der Allende-Zeit entwickelt eine Gruppe von Ingenieuren ein Computernetzwerk, mit dem die Wirtschaft des gesamten Landes gesteuert werden soll – ein Experiment, das wie Science-Fiction anmutet: Projekt Cybersyn.
Beflügelt von der Aufbruchstimmung im sozialistischen Chile der Allende-Zeit entwickelt eine Gruppe von Ingenieuren ein Computernetzwerk, mit dem die Wirtschaft des gesamten Landes gesteuert werden soll – ein Experiment, das wie Science-Fiction anmutet: Projekt Cybersyn.
Auch künstliche Intelligenz trifft diskriminierende Entscheidungen. Eine Strategie, um dagegen vorzugehen, will die EU-Kommission nächste Woche vorstellen.
Das parlamentarische Büro für Technikfolgen-Abschätzung warnt angesichts künstlich intelligenter Personalauswahl vor ethischen Risiken und Rechtslücken.
In Großbritannien fürchten die Schulabsolvent:innen des ganzen Jahrgangs 2020 um ihre universitäre und berufliche Zukunft. Erst gab es keine Schule und Prüfungen - und jetzt hat auch noch ein eingesetzter Algorithmus die Noten vieler herabgestuft. Nach wachsenden Protesten wurde die Benotung jetzt z
Kaum zu glauben. Auch im Jahr 2019 kommt es immer wieder vor, dass in Veranstaltungen zu Digitalisierungsthemen keine einzige Frau unter den Sprecher:innen ist.
Erstmals ist in den USA ein Fall bekannt geworden, in dem eine Fehlidentifikation per Gesichtserkennung einen Afroamerikaner in Polizeigewahrsam brachte.
Ist Software bald so schwierig zu verstehen, wie ihre Schöpfer? In der Science widmet sich jetzt ein Artikel dem Vorwurf, KI funktioniere wie mittelalterliche Alchemie: Man wisse eigentlich nicht, was man tue, sondern drehe hier und da an ein paar Schrauben, bis ein Algorithmus das gewünschte Ergebnis erziele.
„Algorithmen haben kein Taktgefühl“, sagt eine der führenden Expertinnen beim Thema künstliche Intelligenz. Sie rät zur Vorsicht beim Einsatz von KI in sensiblen Bereichen.
Mit dem Analytics-Modul kann das Verhalten von Office-365-Nutzern ausgewertet werden. Den Einsatz müssen Unternehmen bereits vor dem Rollout mit Betriebsrat und
Wenn deutsche Unternehmen Personalsoftware einsetzen, um Mitarbeiter zu analysieren, könnte das in der Praxis oft rechtswidrig sein; das geht aus einer Studie der Organisation AlgorithmWatch hervor.
Firmen, die Mitarbeiter mit "People Analytics"-Systemen durchleuchten, handeln oft rechtswidrig, hat AlgorithmWatch in einem Forschungsprojekt herausgefunden.
Vom Analysten zum Aktivisten: Roger McNamee hat an Facebook gut verdient. Nun fordert er eine radikale Umkehr und ein Verbot von Amplifizierungs-Algorithmen.
Gesichtserkennung versagt auffallend oft etwa bei schwarzen Frauen – und das kann bestehende Vorurteile festigen, kritisiert eine Computerwissenschaftlerin.
Die kurzfristigen Auswirkungen des technologischen Wandels werden häufig überschätzt, die langfristigen unterschätzt. Digitalisierung muss gemeinsam mit den ArbeitnehmerInnen gestaltet werden und darf sich nicht allein auf die Technik beschränken.
Der Bewerbungsroboter von Amazon hat Frauen diskriminiert. Wie konnte das passieren? Und wie können Algorithmen geeignete Kandidaten für einen Job erkennen?
Heute übergibt der Datenethikkommission (DEK) ihre Empfehlungen an die Bundesregierungen. Die Kommission war 2018 von der Bundesregierung einberufen worden und umfasst 16 Mitglieder: Hauptsächlich besetzt mit Wissenschaftler*innen, aber auch mit Vertreter*innen aus der Verwaltung, dem Datenschutz und der Industrie.
Da soll nochmal einer sagen, die Maschine ließe nicht mit sich reden… ;-) So schnell wird man zu Steve Zuckerberg… Oder wie war das noch mit der Unverfälschbarkeit?
christentum Köver und Markus Reuter sprechen mit Joanna Bronowicka, Soziologin an der Europäischen Universität Viadrina. Sie hat zahlreiche Interviews mit Fahre-rinnen und Fahrern in Berlin geführt – und erzählt im dieses Mal englischsprachigen Podcast, warum Menschen bei den Firmen anheuern, wie sie versuchen, den Algorithmus auszutricksen und den Arbeitskampf gegen die Konzerne organisieren.
Algorithmen funktionierten wie Schubladen, beschreibt die Politikwissenschaftlerin Lorena Jaume-Palasí den Grund, warum zum Beispiel Seifenspender nicht auf dunkle Haut reagieren. Sie beruhten auf Standards, die rassistisch sein könnten. Die Technologie sei für Diskriminierung anfällig.
Künstliche Intelligenz soll den Menschen dienen und Grundrechte respektieren. Das fordert eine Expertengruppe der EU-Kommission in ihren nun veröffentlichten Leitlinien für die Technologie. Unverrückbare ethische Prinzipien finden sich darin jedoch nicht mehr – Vertreterinnen der Industrie im Gremium haben sie erfolgreich gestrichen.
Viele Entscheidungen, die unseren Alltag beeinflussen, treffen bereits Algorithmen. AlgorithmWatch will Automated Decision Making (ADM) transparent machen.
Der digitale Kapitalismus hat einen neuen Gesellschaftsvertrag etabliert: Daten gegen Bequemlichkeit. KI spielt für dessen Zukunft eine zentrale Rolle.
Sie personalisieren Inhalte, berechnen Routen und Preise: Algorithmen sind Teil des Alltags. Sie stecken etwa in Software, sind schwer greifbar und werden in immer mehr Bereichen eingesetzt.
Deliveroo und Foodora versprechen ihren Fahrern Freiheiten bei der Arbeit. Eine Studie zeigt: So frei sind die Beschäftigten nicht – wegen der App, die sie kontrolliert.
Die Lieferfirmen geben ihren Mitarbeitern gerne das Gefühl, unabhängig und frei zu sein. Durch permanente Überwachung und über Anreizsysteme werden jedoch die Fahrer:innen diszipliniert und interne Konkurrenz geschürt. Wissenschaftlerinnen haben das Geschäftsmodell jetzt untersucht.
Sarah Spiekermann, Professorin für Wirtschaftsinformatik in Wien, will nicht den Maschinen die Moral beibringen, sondern Ingenieur*innen und Unternehmen. Wir sprachen mit ihr darüber, wie man ethische Standards für Algorithmen festlegt und warum diejenigen, die Maschinen und Programme entwickeln, sich so selten verantwortlich fühlen.
Deutschland liegt im Rennen um künstliche Intelligenz hinter anderen Nationen zurück. Investitionen von EU und Bundesregierung sind deshalb eine gute Idee. Deutschland sollte dabei aber nicht auf ethische Standards verzichten. So könnte künstliche Intelligenz "Made in Germany" einen unerwarteten Wettbewerbsvorteil erlangen.
Algorithmen können Vorurteile bestätigen und Menschen diskriminieren, sagt Matthias Spielkamp, der Gründer und Geschäftsführer von AlgorithmWatch. "Die Schuld dafür der Technik zu geben, wäre aber grundfalsch". Menschen entwickelten diese Systeme und müssten auch dafür sorgen, dass sie gerecht funktionieren. Deshalb seien Aufsichtsinstitutionen nötig, "die sicherstellen, dass Algorithmen unseren gesellschaftlichen Zusammenhalt nicht gefährden, sondern ihn befördern". Die Entwicklung von Algorithmen einfach nur transparenter zu machen, reiche dabei nicht aus. "Wenn man weiß, wie ein diskriminierendes System funktioniert, hat man noch nichts gewonnen", meint Matthias Spielkamp. Die Diskriminierung müsse dann auch beendet werden.
Mehr Effizienz durch umfassende Leistungskontrolle im Job? Mit einem neuen Add-on für die Bürosoftware Microsoft Office 365 können Arbeitgeber die Leistung ihrer MitarbeiterInnen detailliert analysieren. Aus Sicht des DGB ist der Einsatz der Software zwingend mitbestimmungspflichtig.
Beim AMS soll künftig ein Computerprogramm Mitarbeiter bei Entscheidungen unterstützen. Die futurezone sprach mit AMS-Chef Johannes Kopf über den geplanten Algorithmus.
In Österreich teilt ab nächstem Jahr ein Algorithmus alle Jobsucher in Kategorien. Wer schlecht abschneidet, dem werden Zukunftschancen verbaut. Die Behörden bejubeln das als Effizienzsteigerung mit modernsten technischen Mitteln. Experten warnen hingegen vor automatisierter Diskriminierung.
Nicht nur Menschen, auch Algorithmen können diskriminieren. Die Schuld dafür trägt der Mensch. Entwickler und Anwender müssen sich jetzt der Verantwortung stellen. Zeit für eine Wertedebatte.
Find out more at: https://18.re-publica.com/node/21630 Algorithmen bestimmen, was wir tun. Wir bestimmen, was Algorithmen tun. Diese untrennbare Verflechtung...
Find out more at: https://18.re-publica.com/node/25033 [Partnersession] Björn Böhning: http://mediaconventionberlin.com/de/2016/speaker | https://twitter.com...
Find out more at: https://18.re-publica.com/node/24751 When humans imagined robots and computers in the workplace, they have envisioned them as servants and ...
Die re:publica 2018 hat Antworten auf die Frage gesucht, wie Führung aussehen sollte, wenn Daten und Digitalisierung die Arbeitswelt bestimmen. Allerdings eher auf unauffälligen Nebenbühnen. Ein we
Find out more at: https://18.re-publica.com/node/24491 Der Algorithmus ist ein ständiger Gefährte in unserem Leben, erscheint jedoch nach wie vor als eine Bl...
Am 3.05., 17:30, Stelle ich unser neues Projekt mit der Hans-Böckler-Stiftung auf der re:publica vor und diskutiere mit Matthias Spielkamp und Katharina Simbeck, moderiert von Melanie Stein. Unter anderem zeige ich, wie man den Analysealgorithmus von IBM Watson austricksen kann.
Die Arbeitswelt digitalisiert sich immer stärker, das zeigt sich auch an den Programmen, die auf den Markt kommen. Sie sollen Firmen die Personalplanung erleichtern - doch es gibt viele Unwägbarkeiten.
ines der Schwerpunktthemen der diesjährigen re:publica wird der Umgang mit und die demokratische Gestaltung von Künstlicher Intelligenz und Algorithmischen Entscheidungssystemen sein. Wir bieten einen Überblick durch das umfangreiche Programm.
Die KI-Technik sei so weit entwickelt, dass sie eine ernste Bedrohung darstellt, sollten Schurkenstaaten, Kriminelle oder Terroristen sie einsetzen, meinen Experten. Sie äußern sich in einer Studie zu möglichen Gegenmaßnahmen und Kontrolle.
Complete video of the France Gall's performance in Finale of German Song Contest 1968 in Berlin --- Vidéo intégrale de la prestation de France Gall lors de l...
Wir werden überwacht, das ist klar. Aber: Was passiert eigentlich mit all den Informationen über uns, nachdem sie eingesammelt wurden? Wer überwacht uns – und wie? Eine Suche.
Die "filter bubble" spaltet die Gesellschaft. Das glaubt heute fast jeder. Dabei genügen fünf Minuten im Internet, um sich vom Gegenteil zu überzeugen.
Welche Rolle spielen Algorithmen im Internet für die öffentliche Meinungsbildung? Die Informatikerin Katharina Zweig setzt sich seit Jahren mit den Wirkungen und gesellschaftlichen Nebenwirkungen von Algorithmen auseinander. Zurzeit erforscht sie im Rahmen des von Landesmedienanstalten finanzierten Projektes #Datenspende unter anderem den Google-Algorithmus.
Algorithmen sind längst überall. Sie beeinflussen unsere Medienwahrnehmung, kennen unsere Vorlieben und empfehlen uns Nachrichten, Bücher oder Videos. Sie informieren uns über Wichtiges und Banales. Sie lenken unsere Aufmerksamkeit, unser Kaufverhalten und sogar unsere Autos.
Bald wird künstliche Intelligenz allgegenwärtig sein. Aber wer sorgt dafür, dass sie sicher und vertrauenswürdig ist? Ein historischer Fehler droht sich zu wiederholen.
Der Wissenschaftliche Dienst des Bundestages erkennt "Bedarf" an einer Regulierung der Algorithmen. Aber schon die seltsame Fixierung auf den Begriff ist irreführend.
In seltener Einmütigkeit lehnen Digitalverbände und Bürgerrechtsgruppen das von Heiko Maas geplante „Netzwerkdurchsetzungsgesetz“ ab. Es lege die Meinungsfreiheit in die Hände privater Internetkonzerne und fördere Zensur. Aber haben Online-Plattformen, die sich zu Medienkonzernen entwickeln, ein Sonderrecht auf organisierte Verantwortungslosigkeit?
Sie prüfen den Mietvertrag, kontrollieren Bafög-Bescheide, setzen Entschädigungen durch: Legal-Tech-Dienste verbinden Recht und Big Data - und wirbeln damit den Arbeitsmarkt für Anwälte auf.
Wenn Computer lernen, den Sinn menschlicher Sprache zu verstehen, bringt das Risiken mit sich. Erste Anwendungen zeigen, wie massiv der Eingriff in unser Leben sein kann – und die betroffenen Forscher beginnen, über die Ethik ihrer Disziplin nachzudenken.
Die Big-Data-Expertin Kate Crawford hat dazu aufgerufen, Systeme für Künstliche Intelligenz notfalls zu hacken, um sie transparenter zu machen und ihre sozialen Auswirkungen prüfen zu können. Nötig sei eine kleinteilige Analyse.
Algorithmen bestimmen immer mehr unser Leben. Warum Computer nicht alles wissen und wir sie kontrollieren müssen, erklären zwei Expertinnen der Initiative Algorithm Watch.
A. Keiner. Algorithmisierung und Autonomie im Diskurs : Perspektiven und Reflexionen auf die Logiken automatisierter Maschinen, FernUniversität in Hagen. Lehrgebiet Bildungstheorie und Medienpädagogik, Hagen, (July 2020)