IT – Teil 2

Neuronale Netzwerke

Der Fokus des Projekts liegt auf die Verarbeitung von Bilddaten. Im Bereich der Bildklassifikation sind sog. Convolutional Neural Networks (CNN, zu Deutsch Gefaltetes Neuronales Netzwerk) heute State-of-the-Art. Sie schneiden in der sogenannten ImageNet Challenge besonders gut ab, die eine Möglichkeit bietet, die Leistung verschiedener Verfahren in diesem Bereich zu vergleichen. Sie kann als Referenzpunkt für deren Performance genutzt werden. [1]

Abb. 1: Clustering als Ersatz zur fehlenden ground truth zum Training des CNN beim unüberwachten Lernen (Grafik: C. Deligio, BigDataLab, ClaReNet; Münzbilder: N.N., Jersey Heritage).

Das Besondere und die Stärke eines CNN ist dabei, dass es Merkmale (features) selbständig erlernt und sich selbst trainiert, indem es diese unterschiedlich gewichtet. Ein CNN besteht aus mehreren Schichten, die sich aus Convolution-Schichten, Pooling-Schichten und voll vermaschten Schichten zusammensetzen. Eine genaue Beschreibung der Schichten und deren Funktion kann hier nachgelesen werden: [2], [3]. CNNs werden in den meisten Fällen überwacht trainiert. Um dann (möglichst) unüberwacht zu arbeiten, werden CNNs oft mit Clusteralgorithmen kombiniert [4], [5], so dass die extrahierten features in Cluster (Gruppen) aufgeteilt werden (Abb. 1). Diese Methoden sind vor allem im Projekt ClaReNet spannend, um eine Verteilung zu erhalten, die ohne den Einfluss von Domaineexpert*innen gebildet wird, sprich ohne ground truth. Die Qualität des Ergebnisses beim unüberwachten Lernen, also ohne ground truth, muss durch einen Menschen ausgewertet und beurteilt werden. Interessant ist, inwieweit die zur Gruppierung verwendeten Merkmale des Modells (sofern man dies auch erkennen kann, denn leider ist die Erklärbarkeit der komplexen neuronalen Netze eingeschränkt) aus der Sicht der Numismatiker*innen vertretbar sind.

Wie läuft der Prozess des maschinellen Lernens ab?
Das erfahren Sie im nächsten Teil!

Literatur

[1] https://paperswithcode.com/sota/image-classification-on-imagenet

[2] https://e2eml.school/how_convolutional_neural_networks_work.html

[3] https://stanford.edu/~shervine/teaching/cs-230/cheatsheet-convolutional-neural-networks

[4] Caron u.a. 2018: M. Caron/P. Bojanowski/A. Joulin/M. Douze, Deep Clustering for Unsupervised Learning of Visual Features. In: V. Ferrari/M. Hebert/C. Sminchisescu/Y. Weiss (Hrsg.), Computer Vision – ECCV 2018. 15th European Conference, Munich, Germany, September 8–14, 2018, Proceedings, Part XIV (München 2018) 139-156.

[5] Caron u.a. 2020: M. Caron u.a., Unsupervised Learning of Visual Features by Contrasting Cluster Assignment. In: H. Larochelle/M. Ranzato/R. Hadsell/M.-F. Balcan/H.-T. Lin (Hrsg.), Advances in Neural Information Processing Systems 33, NeurIPS 2020 (in Vorbereitung).

 

cd

[zum vorherigen Teil] – [zum nächsten Teil]

Suche in OpenEdition Search

Sie werden weitergeleitet zur OpenEdition Search