The Alignment Problem - Machine Learning and Human Values - Brian Christian Kartoniert (TB)

Dieses Buch ist ein absolut faszinierendes und wichtiges Werk, das die tiefgreifenden ethischen Fragen rund um maschinelles Lernen und menschliche Werte hervorragend beleuchtet. Die Argumentation ist brillant und regt zum intensiven Nachdenken an.

Dieses Buch ist eine absolut faszinierende und tiefgründige Auseinandersetzung mit den ethischen und philosophischen Implikationen von maschinellem Lernen und menschlichen Werten. Es regt zum tiefen Nachdenken über die Zukunft der KI an.

Super!

I got progressively more interested, the further I advanced in the book.Also the hardcover is light blue, which has an appeal to me.

I liked this too 10 classic about AI a lot. It’s very detailed about the beginnings of AI and the issues mankind will have to deal with. A must read.

Zugegebenermaßen bin ich alles andere als ein Fachmann auf den Gebieten von Künstlicher Intelligenz (KI) und Machine Learning (ML). Doch gerade deshalb war ich dankbar für dieses Buch, das sich dezidiert (auch) an Nicht-Experten wendet und deshalb auch weitestgehend auf Fachterminologien und (mathematisch) formalisierte Darstellungen verzichtet.Leute, die weit besser als ich in diesen Thematiken und Forschungsfeldern bewandert sind, haben mir bestätigt, dass der Autor dieses Buches, Brian Christian, über einen großen Sachverstand verfüge und dass die Zugänglichkeit seiner Darstellungen nicht auf Kosten der sachlichen Korrektheit ginge. Alles in allem also wohl eines jener profunden Sachbücher, für die man den englischsprachigen Kulturraum immer noch beneiden kann.Das im Titel angesprochene Ausrichtungs- oder Orientierungsproblem eräutert bereits der Untertitel weitgehend: Es geht darum, inwieweit auf ML-basierte KI-Systeme im Einklang mit menschlichen Werten stehen bzw. in Widerspruch zu ihnen geraten können oder es bereits getan haben. Konkrete Probleme reichen von Bilderkennungs- bzw. –klassifikationssystemen mit ›gender bias‹ oder ›racial bias‹ bis hin zum Einsatz von KI-basierten Systemen zur Bestimmung der Rückfallwahrscheinlichkeit von Straftätern, über deren Bewährung entschieden werden soll. Das Buch enthält zahlreiche weitere Beispiele des Einsatzes von ML in unterschiedlichen gesellschaftlichen Bereichen.Christian nimmt eine mittlere Position ein zwischen einer pessimistischen Technikdystopie und einer optimistischen KI-Euphorie. Akribisch werden die konkreten Probleme benannt und auf ihre Ursachen hin untersucht. Vieles gebe, so Christian, Anlass zur Skepsis und zur Sorge, doch gleichzeitig betont er die grundsätzliche technische Beherrschbarkeit der Probleme. Um Letzteres zu demonstrieren, taucht er tief in die aktuelle Forschungslandschaft ein und zeichnet erstaunliche Entwicklungslinien nach, die bisweilen wissenschaftshistorisch recht weit ausgreifen. Erstaunlich ist unter anderem, wie sich unterschiedliche Disziplinen (wechselseitig) beeinflussen und um welche Disziplinen es sich dabei handelt. Dass sich Informatiker und Ingenieure, die mit der ML-Entwicklung befasst sind, intensiv für die Ergebnisse von Primatenforschung, Entwicklungspsychologie oder Erziehungswissenschaft interessieren könnten, hätte man vor wenigen Jahrzehnten wohl nicht prognostiziert.Ich habe das Buch mit sehr großem Gewinn gelesen. Was man monieren kann, ist zum einen Christians Hang, manchmal in die journalistische Trickkiste zu greifen, um Erzählungen ›spannend‹ zu gestalten. Doch das scheint mir verzeihlich, weil es nicht auf Kosten des Wahrheitsgehalts geht. Problematischer erscheint mir, dass der Autor allzu sehr ausblendet, dass ein erheblicher Teil der KI- bzw. ML-Forschung in den Institutionen der großen Tech-Konzerne stattfindet und man sich durchaus fragen sollte, inwieweit dieses Faktum – KI/ML-Forschung am Tropf von Konzernen mit Profitmaximierungsinteressen – ein ganz eigenes ›alignment problem‹ mit sich bringt.