Der Einsatz von Algorithmen und künstlicher Intelligenz zur Bewältigung einer Vielzahl von Problemen und Herausforderungen hat einen bemerkenswerten Aufschwung erlebt. Während ihre Einführung, insbesondere mit dem Aufkommen der KI, nahezu alle Branchen, Disziplinen und Forschungsbereiche umgestaltet, bringen solche Innovationen oft unerwartete Konsequenzen mit sich, die neue Normen, neue Erwartungen sowie neue Regeln und Gesetze mit sich bringen.
Um ein tieferes Verständnis zu erleichtern, ist die Soziale und ethische Verantwortung des Computers (SERC), eine übergreifende Initiative des MIT Schwarzman School of Computing, brachte kürzlich Sozialwissenschaftler und Geisteswissenschaftler mit Informatikern, Ingenieuren und anderen Informatikern zusammen, um zu untersuchen, wie sich die breite Anwendbarkeit von Algorithmen und KI verändert hat stellte in vielen Bereichen der Gesellschaft sowohl Chancen als auch Herausforderungen dar.
„Die Natur unserer Realität verändert sich. KI hat die Fähigkeit, Dinge zu tun, die bis vor Kurzem nur der menschlichen Intelligenz vorbehalten waren – Dinge, die unser Verständnis davon, was es bedeutet, ein Mensch zu sein, in Frage stellen können“, bemerkte Daniel Huttenlocher, Dekan des MIT Schwarzman School of Computing, in seiner Eröffnungsrede beim ersten SERC-Symposium. „Dies wirft philosophische, konzeptionelle und praktische Fragen in einem Ausmaß auf, das seit Beginn der Aufklärung nicht mehr erlebt wurde.“ Angesichts solch tiefgreifender Veränderungen brauchen wir neue konzeptionelle Karten, um den Wandel zu bewältigen.“
Das Symposium bot einen Einblick in die Imaginative and prescient und Aktivitäten des SERC in Forschung und Lehre. „Wir glauben, dass unsere Verantwortung bei SERC darin besteht, unsere Studenten auszubilden und auszurüsten und es unserer Fakultät zu ermöglichen, zur verantwortungsvollen Technologieentwicklung und -einführung beizutragen“, sagte Georgia Perakis, William F. Kilos-Professorin für Administration an der MIT Sloan College of Administration, Co- stellvertretender Dekan des SERC und Hauptorganisator des Symposiums. „Wir nutzen die vielen Stärken und die Vielfalt der Disziplinen am MIT und darüber hinaus und bringen sie zusammen, um verschiedene Standpunkte zu gewinnen.“
In einer Reihe von Panels und Sitzungen befasste sich das Symposium mit einer Vielzahl von Themen im Zusammenhang mit den gesellschaftlichen und ethischen Dimensionen der Informatik. Darüber hinaus nahmen 37 Bachelor- und Masterstudenten verschiedener Fachrichtungen, darunter Städtebau und Stadtplanung, Politikwissenschaft, Mathematik, Biologie, Elektrotechnik und Informatik sowie Gehirn- und Kognitionswissenschaften, an einer Postersitzung teil, um ihre Forschungsergebnisse vorzustellen Raum und behandelt Themen wie Quantenethik, KI-Kollusion auf Speichermärkten, Computerverschwendung und die Stärkung der Benutzer auf sozialen Plattformen für eine bessere Glaubwürdigkeit von Inhalten.
Präsentation einer Vielfalt an Arbeiten
In drei Sitzungen zu den Themen wohltuendes und faires Rechnen, gerechte und personalisierte Gesundheit sowie Algorithmen und Menschen präsentierte das SERC-Symposium die Arbeit von 12 Fakultätsmitgliedern aus diesen Bereichen.
Ein solches Projekt eines multidisziplinären Groups aus Archäologen, Architekten, Digitalkünstlern und Computersozialwissenschaftlern zielte darauf ab Erhaltung gefährdeter Kulturerbestätten in Afghanistan mit digitalen Zwillingen. Das Projektteam erstellte zusätzlich zu erweiterten Realitäts- und Digital-Actuality-Erlebnissen hochdetaillierte, abfragbare 3D-Modelle der Kulturdenkmäler als Lernressourcen für Zielgruppen, die keinen Zugang zu diesen Stätten haben.
In einem Projekt für das United Community for Organ Sharing zeigten Forscher, wie sie es verwendeten Angewandte Analytik Optimierung verschiedener Facetten eines Organzuteilungssystems in den Vereinigten Staaten, das derzeit einer umfassenden Überarbeitung unterzogen wird, um es unter anderem für verschiedene Rassen-, Alters- und Geschlechtergruppen effizienter, gerechter und integrativer zu machen.
In einem anderen Vortrag wurde ein Bereich erörtert, der in der Öffentlichkeit noch nicht ausreichend Beachtung gefunden hat: die umfassenderen Auswirkungen auf die Gerechtigkeit verzerrte Sensordaten gilt für die nächste Technology von Modellen in der Informatik und im Gesundheitswesen.
Ein Gespräch über Voreingenommenheit in Algorithmen Dabei wurden sowohl menschliche Voreingenommenheit als auch algorithmische Voreingenommenheit sowie das Potenzial zur Verbesserung der Ergebnisse durch Berücksichtigung der Unterschiede in der Artwork der beiden Arten von Voreingenommenheit berücksichtigt.
Weitere hervorgehobene Forschungsergebnisse waren die Interaktion zwischen On-line-Plattformen und der menschlichen Psychologie; eine Studie darüber, ob Entscheidungsträger aufgrund der verfügbaren Informationen systemische Prognosefehler machen; und eine Veranschaulichung, wie fortschrittliche Analysen und Berechnungen genutzt werden können, um das Lieferkettenmanagement, den Betrieb und die Regulierungsarbeit in der Lebensmittel- und Pharmaindustrie zu unterstützen.
Die Algorithmen von morgen verbessernw
„Algorithmen wirken sich zweifellos auf jeden Aspekt unseres Lebens aus“, sagte Asu Ozdaglar, stellvertretende Studiendekanin des MIT Schwarzman School of Computing und Leiterin der Abteilung für Elektrotechnik und Informatik, als sie ein von ihr moderiertes Panel eröffnete Die Auswirkungen von Daten und Algorithmen.
„Ob im Zusammenhang mit sozialen Medien, On-line-Handel, automatisierten Aufgaben und jetzt einem viel größeren Spektrum kreativer Interaktionen mit dem Aufkommen generativer KI-Instruments und großer Sprachmodelle, es besteht kaum ein Zweifel daran, dass noch viel mehr kommen wird“, sagte Ozdaglar . „Während das Versprechen für uns alle offensichtlich ist, gibt es auch viel Grund zur Sorge. Jetzt ist viel Zeit für fantasievolles Denken und sorgfältige Überlegungen, um die Algorithmen von morgen zu verbessern.“
Ozdaglar wandte sich an das Gremium und bat Experten aus den Bereichen Informatik, Sozialwissenschaften und Datenwissenschaft um Einblicke, wie man die Zukunft verstehen und so gestalten kann, dass die Ergebnisse für die Mehrheit der Menschheit bereichert werden.
Sarah Williams, außerordentliche Professorin für Technologie und Stadtplanung am MIT, betonte, wie wichtig es sei, den Prozess der Zusammenstellung von Datensätzen zu verstehen, da Daten die Grundlage für alle Modelle seien. Sie betonte auch die Notwendigkeit von Forschung, um die potenziellen Auswirkungen von Vorurteilen in Algorithmen zu untersuchen, die häufig über ihre Ersteller und die bei ihrer Entwicklung verwendeten Daten ihren Weg finden. „Es liegt an uns, über unsere eigenen ethischen Lösungen für diese Probleme nachzudenken“, sagte sie. „So wie es wichtig ist, mit der Technologie voranzukommen, müssen wir auch damit beginnen, uns mit den Fragen zu befassen: Welche Vorurteile gibt es in den Algorithmen? Welche Verzerrungen gibt es in den Daten oder in der Reise dieser Daten?“
Die Diskussionsteilnehmer – zu denen auch Srini Devadas, Professor für Elektrotechnik und Informatik am MIT, John Horton, Professor für Informationstechnologie, und Simon Johnson, Professor für … gehörten, konzentrierten sich auf generative Modelle und darauf, ob die Entwicklung und Nutzung dieser Technologien reguliert werden sollte Unternehmertum – alle waren sich einig, dass die Regulierung von Open-Supply-Algorithmen, die öffentlich zugänglich sind, schwierig sein würde, da die Regulierungsbehörden immer noch aufholen und Schwierigkeiten haben, überhaupt Leitplanken für Technologien zu setzen, die jetzt 20 Jahre alt sind.
Um auf die Frage zurückzukommen, wie der Einsatz dieser Technologien wirksam reguliert werden kann, schlug Johnson als mögliche Lösung ein progressives Körperschaftsteuersystem vor. Er empfiehlt, die Steuerzahlungen der Unternehmen auf deren Gewinne auszurichten, insbesondere bei Großkonzernen, deren enorme Gewinne aufgrund des Offshore-Bankings weitgehend unversteuert bleiben. Auf diese Weise, so Johnson, könne dieser Ansatz als Regulierungsmechanismus dienen, der Unternehmen davon abhält, durch die Einführung von Fehlanreizen zu versuchen, „die ganze Welt zu besitzen“.
Die Rolle der Ethik in der Informatikausbildung
Da die Computertechnik weiterhin voranschreitet und keine Anzeichen einer Verlangsamung zu erkennen sind, ist es von entscheidender Bedeutung, den Schülern beizubringen, bewusst mit den sozialen Auswirkungen der Technologien umzugehen, die sie entwickeln und in der Welt einsetzen werden. Aber kann man einem so etwas überhaupt beibringen? Wenn das so ist, wie?
Caspar Hare, Professor für Philosophie am MIT und stellvertretender Dekan des SERC, stellte der Fakultät diese drohende Frage in einem von ihm moderierten Panel Rolle der Ethik in der Informatikausbildung. Jeder Diskussionsteilnehmer hat Erfahrung im Unterrichten von Ethik und im Nachdenken über die sozialen Auswirkungen der Informatik und teilte seine Perspektive und Herangehensweise mit.
Eden Medina, außerordentlicher Professor für Wissenschaft, Technologie und Gesellschaft am MIT, ist ein starker Befürworter der Bedeutung des Lernens aus der Geschichte und sagte: „Oft stellen wir die Informatik so dar, dass alles neu ist.“ In meinem Unterricht beschäftige ich mich unter anderem damit, wie Menschen in der Vergangenheit mit diesen Problemen umgegangen sind, und versuche, daraus eine Möglichkeit zu ziehen, über mögliche Wege nach vorne nachzudenken.“ Medina verwendet in ihren Kursen regelmäßig Fallstudien und verwies auf einen Artikel der Wissenschaftshistorikerin Joanna Radin von der Yale College über den Pima Indian Diabetes Dataset, der ethische Fragen zur Geschichte dieser bestimmten Datensammlung aufwarf, die viele nicht als Beispiel betrachten wie Entscheidungen rund um Technologie und Daten aus sehr spezifischen Kontexten entstehen können.
Milo Phillips-Brown, außerordentlicher Professor für Philosophie an der Universität Oxford, sprach über das Moral Computing Protocol, das er während seiner Zeit als SERC-Postdoc am MIT mitentwickelt hatte. Das Protokoll, ein vierstufiger Ansatz zum verantwortungsvollen Aufbau von Technologie, soll Informatikstudenten darin schulen, besser und genauer über die sozialen Auswirkungen von Technologie nachzudenken, indem der Prozess in überschaubarere Schritte unterteilt wird. „Der grundlegende Ansatz, den wir verfolgen, orientiert sich stark an den Bereichen wertesensitives Design, verantwortungsvolle Forschung und Innovation sowie partizipatives Design als leitende Erkenntnisse und ist grundsätzlich auch interdisziplinär“, sagte er.
Bereiche wie Biomedizin und Recht verfügen über ein Ethik-Ökosystem, das die Funktion des ethischen Denkens auf diese Bereiche verteilt. Aufsicht und Regulierung werden bereitgestellt, um Stakeholder und Entscheidungsträger an vorderster Entrance bei auftretenden Problemen anzuleiten, ebenso wie Schulungsprogramme und Zugang zu interdisziplinärem Fachwissen, auf das sie zurückgreifen können. „In diesem Bereich haben wir nichts davon“, sagte John Basl, außerordentlicher Professor für Philosophie an der Northeastern College. „Für die aktuelle Technology von Informatikern und anderen Entscheidungsträgern lassen wir sie die ethischen Überlegungen tatsächlich selbst durchführen.“ Basl bemerkte weiter, dass die Vermittlung grundlegender ethischer Argumentationskompetenzen im gesamten Lehrplan, nicht nur im Philosophieunterricht, von wesentlicher Bedeutung sei und dass das Ziel nicht darin bestehen sollte, dass jeder Informatiker ein professioneller Ethiker sei, sondern dass er ausreichend über die Landschaft Bescheid weiß, um es zu werden in der Lage, die richtigen Fragen zu stellen und das relevante Fachwissen und die vorhandenen Ressourcen aufzusuchen.
Nach der Abschlusssitzung führten interdisziplinäre Gruppen aus Lehrkräften, Studierenden und Forschern bei einem Empfang, der den Abschluss des Symposiums bildete, lebhafte Diskussionen zu den im Laufe des Tages behandelten Themen.
