Open Excess

📌index

When the LinkedIn bros warn that GLAM organisations are being left behind by the latest AI developments, I think about how long we’ve been working with technologies like machine learning and computer vision. Dipping again into my own history, I remember 2008, when the Powerhouse Museum started using natural language processing to automatically tag collection items. I remember 2010, when Paul Hagon from the National Library of Australia gave a conference paper on using facial detection to explore image collections. In 2011, Paul’s work inspired Kate Bagnall and me to use facial detection to find the people inside the records of Australia’s racist migration policies and expose ‘The Real Face of White Australia’. A few years later, I started fiddling around with object detection to extract thousands of redactions from the surveillance files of Australia’s internal security organisation. […] Of course the technologies have changed, but there are continuities as well. The simplicity of turning points rarely withstands the scrutiny of history. Understanding is born from our struggle to reconcile the fact that everything is new, and yet nothing is new.

Die Osnabrücker „Ausländermeldekartei“ umfasst mehrere zehntausend handschriftliche Karteikarten, mit denen eine kommunale Verwaltung über weite Teile des 20. Jahrhunderts hinweg „Ausländer“ als verwaltete Bevölkerungsgruppe hervorgebracht hat. Gelesen werden diese Karten als Dokumente administrativer Einschreibung. Ein weiteres im Sonderforschungsbereich aufgebaute Korpus umfasst rund sechstausend wissenschaftliche Publikationen aus den 1960er- bis 2010er-Jahren über „Gastarbeiterkinder“ und die kategorialen Nachfolgebegriffe, die an ihre Stelle traten. Untersucht wird dieses Korpus dahingehend, wie solche Kategorien in die wissenschaftliche Sprache eingewandert sind. Beide Korpora erfassen zwei Phasen desselben Prozesses: den Akt der Einschreibung und das lange Nachleben von Kategorien, die, einmal hervorgebracht, ein Eigenleben entwickeln. Sie institutionalisieren Verfahren und adressieren jene, die sie klassifizieren. Zugleich sammeln sie Bedeutungen an, die in den nächsten Moment der Einschreibung weitergetragen werden – auch in unseren eigenen. Die Methoden, die heute auf solches Material angewandt werden, erweitern die Möglichkeiten des Lesens im großen Maßstab – von der Handschriftenerkennung bis zur korpuslinguistischen Analyse, zunehmend auch mithilfe multimodaler Sprachmodelle. Sie entheben die Forschenden jedoch nicht der kategorialen Ordnung der Quellen. In Anlehnung an Michel-Rolph Trouillot verortet die Keynote einen weiteren Ort des Verschweigens in den Dateninfrastrukturen selbst: in ihrem Interface-Design, im Trainingsmaterial, auf dem sie beruhen, und in den Grenzen dessen, was sie im großen Maßstab überhaupt lesbar machen. Reflexive Migrationsforschung lehnt diese Werkzeuge nicht ab. Sie versteht sie vielmehr als historische Objekte, deren kategoriale Arbeit fortwirkt, und schreibt die Geschichte der Migration aus dieser fortdauernden Arbeit heraus.

My impression is that there is not a lot of ambiguity regarding the question of whether “AI” drives inequality. (Whether it can be repurposed to reduce inequality is a separate topic; in brief, that seems to me like using an axe that cuts wood to remove water from a boat. It is the wrong tool that probably does significant damage even when used with good intentions.) What baffles me is the absence of attention. Maybe people are just too busy debunking “AI” lies, or – maybe worse – they no longer care. In recent interactions with people working at civil society organisations, I got the impression that topics like inequality are perceived as outdated or too negative. Instead, many organisations go for supposedly “positive”, but deeply conservative-nationalist framings like sovereignty because that means they can get more money from donors. I, personally, think that whoever beliefs in fundamental equality really needs to care about “AI” and how to push back against it. At all levels.