Die meisten Informationssysteme wie Automaten und Computer
funktionieren nach dem EVA-Prinzip. Einer bestimmten Eingabe folgt ein
festgelegter Verarbeitungsprozess mit einer definierten Ausgabe. Der
Algorithmus der Maschine kann ein vorher festgelegtes Problem lösen.
Der Algorithmus in einem lernfähigen System gibt
keinen festen Lösungsweg vor, sondern ermöglicht es der Maschine, eigene Regeln
für eine Problemlösung zu entwickeln und so einen eigenen Lösungsweg zu finden.
Dafür haben sie zusätzlich einen Erfahrungsschatz, auf den sie während der
Verarbeitung zurückgreifen können.
Der Erfahrungsschatz kann sich jederzeit verändern und
erweitern. Man spricht vom maschinellen Lernen.
Soll einer Maschine gezielt etwas beigebracht werden, muss sie zunächst trainiert werden. Dafür müssen der Maschine Trainingsdaten zur Verfügung gestellt werden.
Damit eine Maschine etwas Neues lernen kann, muss sie zunächst die vorhandenen Informationen strukturieren. Es wird immer ein auffälliges Merkmal betrachtet, das nur 2 Zustände oder Antworten zulässt. Diese auffälligen Merkmale werden Attribute genannt. Ein solcher Knoten verzweigt sich also in zwei Richtungen. Durch Betrachten immer weiterer Attribute ergibt sich ein Entscheidungsbaum.
Soll ein lernendes System beispielsweise erkennen, um welchen Vogel es sich handelt, könnte der Entscheidungsbaum so aussehen: