Judgment

Smith, Brian Cantwell. The Promise of Artificial Intelligence. Reckoning and Judgment. Cambridge, Massachusetts: MIT Press, 2019.

Machine Learning

“ML [Machine Learning] is essentially a suite of statistical techniques for:

  1. the statistical classification and prediction of patterns

  2. based on sample data (often quite a lot of it)

  3. using an interconnected fabric of processors

  4. arranged in multiple layers.” (47)

Reckoning and Judgment

Mit »reckoning« bezeichnet Smith Systeme, die Repräsentationen bilden oder verarbeiten können, aber nicht wissen, dass es sich um Repräsentationen von tatsächlich in der Welt vorhandenen Objekten handelt. Der Begriff »judgment« ist der Form von Urteilsfähigkeit vorbehalten, die Repräsentationen als Repräsentationen erkennt. (110)

Aktuelle Ansätze der KI und auch geplante Ansätze der dritten Welle der KI werden nicht zu genereller Intelligenz führen. Menschliche Intelligenz liegt nicht nur in internen Repräsentationen, sondern im Eingebundensein in die Welt. “It requires “getting up out” of internal representations and being committed to the world as world, in all its unutterable richness.” (xiii)

Problematisch ist für Smith: Wenn wir Systeme, die nur zu Reckoning in der Lage sind, für Aufgaben des Judgements verwenden. (xix)

Wichtig ist, dass wir die Stärken von Computern ausnutzen, ohne sie für Dinge einzusetzen, zu denen ihnen die Fähigkeiten fehlen. (xx)

“[…] only a system capable of authentic judgment can truly shoulder responsibility for its actions and deliberations.” Wenn es zu Unfällen etc. mit maschinellen Systemen kommt, können wir demnach nicht diese dafür verantwortlich machen. (123)

Ontology

“Representations, descriptions, models, and the like all interpret or picture or filter the world through abstractions or idealizations– conceptual “frames” that highlight or privilege some aspects of what is represented, minimize (or even distort) others, and ignore or abstract away from a potentially unbounded amount of in-the-world detail.” (29)

Dass wir die Welt in einzelne Objekte der Mesoskala einteilen ist eine Leistung, die durch Intelligenz ermöglicht wird. Es ist nicht so, dass die Objekte in dieser Skala existieren und die Intelligenz darauf basiert, sondern umgekehrt. (35)

In Teilen der Kognitionswissenschaft wird davon ausgegangen, dass es die Aufgabe der Wahrnehmung ist, aus vielfältigen Sinneseindrücken Kategorien zu bilden, woraufhin das Gehirn mit diesen Kategorien arbeitet und nicht mehr mit den detailreichen Phänomenen. (59 f.)

Die Erfolge der zweiten Welle der KI suggerieren, dass es auch möglich sein könnte, Schlüsse zu ziehen, ohne vorher von Details auf Kategorien zu schließen, d.h. komplett auf Kategorien zu verzichten. Anstatt vorhandene Daten zu klar abtrennbaren Kategorien zuzuordnen, könnten ML-Systeme direkt mit den darunterliegenden Vektoren, also detailreicheren Daten, arbeiten und diese als Interpretation behalten. (60)

Umso erfolgreicher KI-Systeme werden, umso deutlicher wird es werden, dass unsere Interpretation der Welt in Form von klar abgrenzbaren Ontologien eine Informationsreduktion ist, um den Detailreichtum der Welt händelbar zu gestalten. (63)

Zunehmend scheint es so, dass die abgrenzbaren Ontologien eher unsere Sprache reflektieren, als dass sie der Ontologie der Welt entsprechen. (63)

Urteilsbildung basierend auf diskreten Klassifikationen hat den Vorteil, dass sie artikuliert werden kann. (74)

Being in the world

Es ist davon auszugehen, dass heutige KI-Systeme und alle zukünftigen Systeme, von denen wir heute ungefähr wissen, wie wir sie konstruieren könnten, nicht zwischen ihren internen Repräsentationen und der Außenwelt unterscheiden können. (76)

Heutige KI-Systeme wissen zwar nicht, dass ihre Berechnungen über irgendetwas in der Welt stattfinden, aber wir können sie entsprechend interpretieren und in die Welt einbinden. (78)

Wenn ein künstliches System genuin intelligent sein soll, dann muss es selbst (d.h. nicht durch uns) in die Welt eingebunden sein. Es muss wissen, dass die Welt existiert und dass seine internen Repräsentationen für etwas in dieser Welt stehen. (79)

“The system must not only be embodied and embedded in this world; it must also recognize it as world.” (105)

“Most of the computational systems we construct —including the vast majority of AI systems, from GOFAI to machine learning — represent the world in ways that matter to us, not to them.” (108)

Computers “have power in our lives, […] they matter to us. What limits them is that, so far, nothing matters to them”. (108)

Dass maschinelle Systeme zunehmend in natürlicher Sprache mit uns kommunizieren, kann bei uns den Eindruck erwecken, dass sie die Dinge verstehen, über die sie mit uns kommunizieren. (110)