Vorschläge zur Verbesserung von Schulverwaltung

Prolog

Ich bin jemand, der sehr oft über Ver­wal­tungs­the­men an einer Schu­le klagt. Aktu­ell habe ich ein­mal die Zeit erfasst, die ich gebraucht habe, um neun Abitur­klau­su­ren im vier­ten schrift­li­chen Prü­fungs­fach zu kor­ri­gie­ren. Für die eigent­li­che Kor­rek­tur waren das cir­ca fünf Zeit­stun­den (300 Minu­ten), in denen ich wirk­lich in den Unter­la­gen unter­wegs war, Bemer­kun­gen ein­ge­fügt, Recht­schrei­bung kor­ri­giert und Punk­te nach inhalt­li­chen Aspek­ten ver­teilt habe.

Die­ses Jahr habe ich zusätz­lich sehr geschönt 15 Stun­den (900 Minu­ten) benö­tigt, um das zu erle­di­gen, was dar­über­hin­aus for­mal abzu­ar­bei­ten ist, u.a.:

  1. Erstel­lung eines aus­führ­li­chen Erwar­tungs­ho­ri­zon­tes (Tabel­len­kal­ku­la­ti­on) mit Punk­te­zu­ord­nung, auto­ma­ti­scher Sum­men­be­rech­nung und Noten­aus­wei­sung in Punk­ten (zwei­stel­lig, auch bei 00 Punk­ten) und Wort­no­te pro Teil­auf­ga­be und Gesamt­no­te mit einer Auf­lö­sung von 0,5 Punk­ten Genau­ig­keit. Dabei Auf­tei­lung der Punk­te nach drei Anfor­de­rungs­be­rei­chen und deren getrenn­te Ausweisung.
  2. Abstim­mung der Bepunk­tung mit dem Par­al­lel­kurs (per­sön­li­ches Treffen)
  3. Erstel­lung von Wort­gut­ach­ten mit erneu­ter Beno­tung von Teil­auf­ga­ben unter Ver­wen­dung alter­na­ti­ver Noten­for­mu­lie­run­gen (Man darf nicht sowas schrei­ben wie: „befrie­di­gend gelöst“) mit Bezug auf die Rand­kom­men­ta­re. Das Wort­gut­ach­ten sei angeb­lich not­wen­dig, da ein 150-zei­li­ges Tabel­len­blatt mit Punk­te­zu­ord­nung nicht hin­rei­chend trans­pa­rent ist.
  4. Aus­strei­chen („Ent­wer­tung“) nicht beschrie­be­ner Sei­ten in der Klau­sur, Nota­ti­on „Ende der Arbeit“ am Ende der Arbeit, Nota­ti­on „durch­ge­stri­chen“, wenn Schüler:in Tei­le der Arbeit durch­ge­stri­chen hat, Nota­ti­on „gese­hen“ bei Refe­ren­zen („Stern­chen“) und Notizzetteln.
  5. Ers­ter Aus­druck aller Unter­la­gen (vier Sei­ten je Schüler:in), ein­sor­tie­ren und Über­ga­be an Koreferrent:in. Unter­schrift unter Gutachten.
  6. Bespre­chung der Rück­mel­dung der Korreferent:in (per­sön­li­ches Treffen).
  7. Ein­ar­bei­tung der Anmer­kun­gen der Korreferent:in.
  8. Zwei­ter Aus­druck aller Unter­la­gen (vier Sei­te je Schüler:in), ein­sor­tie­ren und Über­ga­be an Korreferent:in. Unter­schrift unter Gut­ach­ten, Unter­schrift­ein­ho­lung der/des Korreferent:in. Über­ga­be an Fachprüfungsleiter:in.
  9. Aus­fül­len eines Sta­tis­tik­bo­gens (Klau­sur­no­ten der Ober­stu­fe, Aus­fall der Vor­ab­i­tur­klausr). Wei­ter­lei­tung des Sta­tis­tik­bo­gens an Oberstufenkoordinator:in.
  10. Bespre­chung der Rück­mel­dung der Fachprüfungsleiter:in (per­sön­li­ches Treffen).
  11. Ein­ar­bei­tung der Anmer­kun­gen der Fachprüfungsleitung.
  12. Aus­fül­len eines Man­tel­bo­gens. Klau­sur­leis­tun­gen nach Alpha­bet (Name, Vor­na­me, Punk­te zwei­stel­lig) und nach Güte (Name, Vor­na­me, Punk­te zwei­stel­lig) – alles hand­schrift­lich von der Sta­tis­tik von Punkt 9 abge­schrie­ben, wäre fai­rer­wei­se aus als ein­ge­kleb­ter Aus­druck mög­lich. Zwei­fa­ches Aus­fül­len des Noten­spie­gels (ein­mal unter der alpha­be­ti­schen Lis­te, ein­mal unter der Lis­te nach Güte). Unter­schrift auf dem Mantelbogen.
  13. Drit­ter Aus­druck aller Unter­la­gen (vier Sei­te je Schüler:in), ein­sor­tie­ren und Über­ga­be an Vor­sit­zen­den der Prü­fungs­kom­mis­si­on (Schul­lei­tung). Vor­her Unter­schrift unter Gut­ach­ten, Unter­schrift­ein­ho­lung der Kor­re­fe­ren­tin und der Fachprüfungsleitung.

An über­haupt kei­ner Stel­le ging es in die­sen Jahr um inhalt­li­che Aspek­te oder Din­ge, die zu einer Ver­än­de­rung mei­ner Beno­tung geführt hät­ten. Die Zusam­men­ar­beit ver­läuft bei uns immer kol­le­gi­al, d.h. Recht­schrei­bung schreibt der/die Korreferent:in gleich in Rot hin­ein, inhalt­li­che Bemer­kun­gen per Pos­tit, damit man sich kei­nen Wolf radie­ren muss. Nie­mand schießt über die eigent­li­chen Auf­ga­ben der drei Play­er in der Bewer­tungs­kom­mis­si­on in einer Abitur­prü­fung hinaus.

Ich bin beim Erwar­tungs­ho­ri­zont auch nicht so ganz fair dem Dienst­herrn gegen­über: Nie­mals könn­te ich die rei­ne Kor­rek­tur­zeit so tief drü­cken, ohne mich jedes­mal sehr eng an mei­nem Erwar­tungs­ho­ri­zont längs­zu­han­geln. Ohne ihn hät­te ich aber glei­che Über­le­gun­gen bei jeder ein­zel­nen Arbeit wie­der, die ich durch das Erstel­len des Excels­heets ein­ma­lig bün­deln kann.

Wer jetzt wei­ter­hin denkt, dass die­se Maß­stä­be lan­des­weit ein­heit­lich wären, der irrt. Schon an einer ande­ren Schu­le wür­de ich mich auf ande­re Vor­ga­ben ein­stel­len müs­sen, die von Aus­le­gun­gen von z.B. schul­fach­li­chen Dezernent:innen oder Dienst­an­wei­sun­gen vor dem Abitur abhän­gen. Begrün­det wird dies dadurch, dass wir als Kolleg:innen vor Kla­gen geschützt wer­den sollen.

Ich habe wir in die­sem Jahr ein­mal die Mühe gemacht, nach Urtei­len zu suchen, in denen das Land eine Kla­ge gegen Eltern oder voll­jäh­ri­ge Schüler:innen im Kon­text einer Abitur­prü­fung ver­lo­ren hat. Ich bin nicht üppig fün­dig gewor­den, sodass ich eher davon aus­ge­he, dass die eng­ma­schi­gen Dienst­an­wei­sun­gen Ergeb­nis von außer­ge­richt­li­chen Eini­gungs­ver­fah­ren sind.

Man hofft offen­bar, durch mög­lichst enge Vor­ga­ben die Wahr­schein­lich­keit von poten­ti­el­len(!) Kla­gen ver­mei­den zu kön­nen, ist sich aber nicht hin­rei­chend dar­über bewusst, dass der mitt­ler­wei­le auf­ge­bau­te for­ma­le Anspruch gera­de von uner­fah­re­nen Kolleg:innen kaum ein­zu­hal­ten ist und daher for­ma­le Feh­ler pro­vo­zie­ren muss, die dann erst die eigent­li­che Angriff­flä­che für Juris­ten bieten.

Das Abitur ist wegen der poten­ti­el­len Bedeu­tung für den Lebens­weg von Men­schen hier auch sehr hoch­ge­hängt – ande­re Aspek­te, wie z.B. der Ver­wen­dung der Mit­tel für den Lern­mit­tel­aus­lei­he sind bei Wei­tem nicht so klein­tei­lig gere­gelt – obwohl das gera­de dort m.E. sehr not­wen­dig für die Rechts­si­cher­heit wäre.

Wie kommt es zu dieser ausufernden Bürokratie?

Vor­ga­ben fal­len nicht vom Him­mel: Sie wach­sen über lan­ge Zeit. Dabei mögen tat­säch­lich kon­kre­te Erfah­run­gen aus juris­ti­schen Aus­ein­an­der­set­zun­gen eine Rol­le gespielt haben. Es über­le­ben jedoch auch archai­sche Ele­men­te wie z.B. der zumin­dest inhalt­lich kom­plett über­flüs­si­ge Man­tel­bo­gen, weil die ent­spre­chen­den Infor­ma­tio­nen mitt­ler­wei­le red­un­dant durch den ver­pflich­tend bei­zu­le­gen­den Sta­tis­tik­bo­gen vor­lie­gen. Es bleibt allein die prak­ti­sche Funk­ti­on der phy­si­schen Abgren­zung von Prü­fungs­grup­pen unter­ein­an­der auf dem Tisch der Schulleitung.

Ein Fun­fact am Ran­de: Die Schüler:innen schrei­ben Ihre Abitur­prü­fung auf Dop­pel­bö­gen, die jeweils in der Sei­ten­mit­te zu kni­cken sind. Der Kor­rek­tur­be­reich befin­det sich auf der Innen­sei­te, damit eine even­tu­el­le Lochung zur Archi­vie­rung nicht das Geschrie­be­ne der/des Schüler:in beschä­digt. Ich wage ein­mal zu behaup­ten, dass die Archi­vie­rung bei einem Groß­teil der Schu­len gar nicht in Ring­ord­nern, son­dern schlicht als Sta­pel von Man­tel­bö­gen mit Inhalt erfolgt – wer wür­de sich denn die Mühe machen, alle Arbei­ten zu lochen und ein­zeln dann ohne Man­tel­bo­gen (nicht in einem Ring­ord­ner archi­vier­bar) abzuheften?

Unnö­tig zu erwäh­nen, dass Dop­pel­bö­gen der digi­ta­len Archi­vie­rung nicht so zuträg­lich sind, man Sitz­mö­bel in Flu­ren auf­grund der ent­ste­hen­den Brand­las­ten einer kri­ti­schen Prü­fung unter­zieht, gleich­zei­tig aber in Kel­lern und Dach­bö­den über Jah­re ton­nen­wei­se Papier sta­pelt, des­sen Feu­er aber mut­maß­lich Beton­de­cken zum Schmel­zen brin­gen würde.

Was also tun?

Ver­wal­tung ist oft schnell mit neu­en Vor­ga­ben, aber oft sehr zurück­hal­tend beim Hin­ter­fra­gen vor­han­de­ner. Damit dürf­te sich die Kri­te­ri­en­lis­te mei­nes dies­jäh­ri­gen Fach­prü­fungs­lei­ters immer wei­ter auf­ge­bla­sen haben: Es kommt etwas dazu, aber nichts weg.

Vor­schlag 1:

 

Es wäre also an der Zeit, sich als Ver­wal­tung ein­mal die Erlass- und Ver­ord­nungs­la­ge vor­zu­neh­men und zu schau­en, was mitt­ler­wei­le obso­let sein könn­te. Eigent­lich soll­ten neu­en Anfor­de­run­gen über­haupt nur mög­lich sein, wenn dafür etwas ande­res entfällt.

Bei den for­ma­len Durch­füh­rungs­be­stim­mun­gen zum Abitur hät­te ich ein bis zwei Ideen, um das – wie es mein „Lieb­lings­leh­rer­ver­band“ sagen wür­de – bewähr­te Ver­fah­ren ein­fach mal vom Bal­last der Tot­holz­ära zu befreien.

Den­ken in Zuständigkeiten

Ver­wal­tung bleibt recht oft bei dem Zustän­dig­keits­prin­zip ste­hen. Ich weiß nicht, ob es so genau abläuft, aber ich ver­mu­te mal anhand des Bei­spiels der Hygie­ne­plä­ne, was da so geschieht: Im Minis­te­ri­um wird eine neue EU-Ver­ord­nung bekannt, die von Dienst­stel­len und Betrie­ben hin­sicht­lich der Hygie­ne vor Ort umzu­set­zen ist. Im Minis­te­ri­um wird nun fie­ber­haft nach einem zustän­di­gen Fach­re­fe­rat gesucht, in des­sen Auf­ga­ben­feld die­se umzu­set­zen­de Anfor­de­rung fal­len könn­te. Hat man Glück und wird fün­dig, wird das zustän­di­ge Fach­re­fe­rat mit der Erar­bei­tung eines Erlas­ses beauf­tragt. Wenn nicht, schreibt man eine neue Stel­le zur Sach­be­ar­bei­tung aus. Maß­ga­be bei der Erstel­lung die­ses Erlas­ses ist die Ver­ord­nung der EU – die Gege­ben­hei­ten vor Ort spie­len kei­ne Rol­le. Im Wesent­li­chen erfolgt nun eine Adap­ti­on der Ver­ord­nung im Duk­tus eines Erlas­ses, der nun wie­der­um von den Schul­be­hör­den umzu­set­zen ist. Her­aus kommt dann die Ver­pflich­tung einer jeden(!) Schu­le zur Erstel­lung eines Hygieneplanes.

Nun arbei­ten an einer Schu­le Lehr­kräf­te, die für den Unter­richts­ein­satz aus­ge­bil­det sind, die das Gan­ze nun umset­zen sol­len. Mit viel Glück gibt es Unter­stüt­zung durch eine an die Schul­be­hör­de abge­ord­ne­te Lehr­kraft, die dann viel zu vie­le Schu­len in die­sem Bereich berät, aber natür­lich kei­ne Ergeb­nis­ver­ant­wor­tung hat. „Hygie­ne­plan“ kann hier­bei belie­big durch ande­re Begrif­fe ersetzt werden.

Vor­schlag 2:

 

Ver­wal­tung ist immer dann auto­ma­tisch zustän­dig, wenn Anfor­de­rung an Schu­le her­an­ge­tra­gen wer­den, die mit der Berufs­aus­bil­dung von Lehr­kräf­ten nichts zu tun haben. Anstel­le Ver­ant­wor­tung klein­tei­lig nach unten zu dif­fun­die­ren, soll­te in die­sen Berei­chen ein zen­tra­ler und recht­lich belast­ba­rer Ansatz für alle Schu­len erar­bei­tet wer­den, da z.B. eine EU-Ver­ord­nung in einem Rechts­ge­biet immer grund­sätz­lich gilt.

Ver­wal­tung macht das m.E. nicht, weil dadurch sehr schnell sehr deut­lich wer­den wür­de, dass Schu­len schon rein per­so­nell gar nicht die Mög­lich­keit hät­ten, zen­tral vor­ge­be­ne Kon­zep­te tat­säch­lich umzu­set­zen. Und man wäre als Ver­wal­tung in der Pflicht die Umset­zung auch noch zu kon­trol­lie­ren. Das müss­te ja an der klei­nen Grund­schu­le eben­so gesche­hen wie an einer gro­ßen berufs­bil­den­den Schu­le. Wenn hin­ge­gen jede Schu­le Papier pro­du­ziert, was man vor­le­gen kann, dann dient die­ses selbst ja als Beleg dafür, dass Schu­le dafür Res­sour­cen einsetzt.

Rea­li­täts­ent­kop­pel­tes Handeln

Ver­wal­tung läuft immer Gefahr, den Kon­takt zu Schu­le zu ver­lie­ren – dar­an ändert auch nichts, dass vie­le Stel­len in der Schul­ver­wal­tung letzt­lich von Lehr­kräf­ten besetzt wer­den. In spä­tes­tens fünf Jah­ren ist durch den „Domes­ti­ka­ti­ons­ef­fekt“ aber nach mei­ner Erfah­rung die­se Bin­dung an schu­li­sche Rea­li­tät nicht mehr vor­han­den – zumal sich Schu­le inner­halb von fünf Jah­ren dann doch ändert. Damit schwin­det zwangs­läu­fig das Ver­ständ­nis für die Pro­ble­me „vor Ort“.

Vor­schlag 3: 

 

Es gibt ver­bind­li­che Auss­tausch­pro­gram­me zwi­schen Schu­le und Ver­wal­tung, d.h. Mit­ar­bei­ten­de aus der Ver­wal­tung machen in defi­nier­ten Zeit­ab­schnit­ten ein zwei­wö­chi­ges Prak­ti­kum z.B. in einem Schul­se­kre­ta­ri­at, wäh­rend eben­so für Lehr­kräf­te die Mög­lich­keit besteht, für eine kur­ze Zeit in Ver­wal­tung hineinzuschauen.

 

Ein wei­te­res – eigent­lich genia­les Instru­ment – kommt aus der Finanz­ver­wal­tung Nie­der­sach­sen: Möch­te man dort „bewer­bungs­fä­hig“ für eine Lei­tungs­po­si­ti­on wer­den, muss man eben­die­se Stel­le an einem ande­ren Stand­ort als Vakanz­ver­tre­tung für sechs Mona­te aus­fül­len, d.h. man wird Abtei­lungs­lei­tung auf Zeit, bevor man sich bewirbt. Geni­al für das Land ist, dass die Stel­le damit gar nicht vakant bleibt, son­dern kos­ten­neu­tral besetzt ist. Damit kann man in Ruhe nach einem geeig­ne­ten Bewer­ben­den suchen. Als Bewer­ber wie­der­um kann man sich nun ein genau­es Bild von der Tätig­keit machen, bevor man sel­bi­ge – im Beam­ten­sys­tem dann ja auf Lebens­zeit – antritt und alles „on the real job“ ler­nen mussen.

Im Kern muss aus dar­um gehen, Räu­me des Aus­tau­sches und des gegen­sei­ti­gen Ver­ständ­nis­ses nicht enga­gier­ten Ein­zel­per­so­nen und damit weit­ge­hend dem Zufall zu über­las­sen, son­dern letzt­lich zu institutionalisieren.

 

 

KI generierte (Fach-)Arbeiten erkennen

Prolog

Phil­ip­pe Wampf­ler ver­trat vor eini­ger Zeit die Auf­fas­sung, dass KI-Detek­to­ren funk­tio­nie­ren. Es gibt Fach­per­so­nen wie Doris Wes­sels, die dem vehe­ment wider­spre­chen. Ein zen­tra­ler Ansatz von Phil­ip­pe ist folgender:

Die funk­tio­nie­ren­den Detek­to­ren set­zen aber genau so wie die text- oder bild­ge­ne­rie­ren­den Tools Machi­ne-Lear­ning ein, um KI-gemach­te von men­schen­ge­mach­ten Pro­duk­ten zu unterscheiden.

Die mini­ma­le Vor­aus­set­zung, dass man Model­le spe­zi­ell mit KI Arte­fak­ten trai­niert, um die­se spe­zia­li­sier­te Anwen­dung abzu­de­cken, ist eine kos­ten­de­cken­de Nach­fra­ge durch den Markt. Ich glau­be, der zuge­hö­ri­ge Markt ist – zumin­dest für die Prü­fung von Tex­ten – schlicht zu klein, um ein Modell auf­wän­dig für die­sen Anwen­dungs­fall zu trai­nie­ren. Als „Techie“ glau­be ich eher an eine selbst­re­fle­xi­ve Mus­ter­su­che der Model­le in den eige­nen Vek­tor­räu­men mit Sys­temsprompts wie:

Wel­che Anteil des vor­lie­gen­den Tex­tes fin­det du mit hoher Wahr­schein­lich­keit in genau der dar­ge­bo­te­nen Rei­hen­fol­ge im Vek­tor­raum dei­nes eige­nen Modells?“

Und damit lau­fen wir in sys­te­ma­ti­schen Pro­ble­me der trans­form­er­ba­sier­ten LLMs, z.B. der prin­zip­be­dingt man­geln­den Sta­bi­li­tät: Lässt man den glei­chen Text 10x „tes­ten“, erhält man zehn unter­schied­li­che Pro­zent­wer­te für die Wahr­schein­lich­keit, dass ein Text KI-gene­riert ist.

Der Anlass

Ich habe in die­sem Jahr 15 Fach­ar­bei­ten kor­ri­giert. Das ist hier in Nie­der­sach­sen die „letz­te Run­de“, weil man behörd­lich vor dem „KI-Pro­blem“ bereits inso­fern kapi­tu­liert hat, dass die Fach­ar­beit künf­ti­ger Schü­ler­ge­nera­tio­nen durch ande­re For­ma­te ersetzt wird. Lisa Rosa weist dabei nach ein­mal auf den Zusam­men­hang zwi­schen Schrei­ben und Den­ken mit Ver­weis auf Vygots­kij hin. Ich hal­te die­se Ent­schei­dung in Bezug auf die Erstel­lung von Fach­ar­bei­ten daher für verfrüht.

Ich habe den Schüler:innen gegen­über offen kom­mu­ni­ziert, dass ich KI-Detek­to­ren ein­set­zen wer­de und muss­te mir von Doris Wes­sels (sie stammt aus einer Nach­bar­ge­mein­de) allein für die Idee viel Kri­tik anhören.

Mein Ansatz war folgender:

  • Ich nut­ze für die gesam­te Lern­grup­pe das glei­che Tool (ZeroGPT) und bil­de einen Mit­tel­wert der ermit­tel­ten Wahrscheinlichkeiten.
  • bei hohen Anwei­chun­gen nach oben schaue genau­er auf bestimm­te Text­mar­ker (s.u.) und behal­te mir ggf. inhalt­li­che Nach­prü­fun­gen vor.
  • Eine unmit­tel­ba­re Aus­wir­kung auf die Bewer­tung ent­steht durch das Ergeb­nis eines KI-Detek­tors allein(!) erst­mal nicht.
Erkenntnisse

Die Nut­zung eines KI-Detek­tors ist kom­plet­ter Unsinn. Dabei ist es irrele­vant, ob er funk­tio­niert oder nicht funk­tio­niert, weil der Text der Fach­ar­beit höchst­wahr­schein­lich durch inkom­pe­ten­ten Gebrauch von LLMs inhalt­lich und struk­tu­rell deut­lich schlech­ter wird als durch eigen­stän­di­ge Erar­bei­tung. Das gilt aus­drück­lich nicht für die sprach­li­che Form.

In die­sen Thread auf bildung.social sind eini­ge Text­mar­ker zusam­men­ge­tra­gen, die zumin­dest bei mir gut mit einer hohen Wahr­schein­lich­keit im KI-Detek­tor kor­re­lie­ren. Sie stam­men von mir und der Com­mu­ni­ty (u.a. Tobi­as Wun­der, I. L. Vil­li­an)

  1. Kei­ne direk­ten Zita­te bzw. Aus­ein­an­der­set­zung damit
  2. Inhalt­li­che Neu­an­sät­ze, durch Anein­an­der­rei­hung von Quellenzusammenfassungen
  3. Red­un­dan­zen, wenn Quel­len zu ana­lo­gen Schlüs­sen kommen
  4. Lehr­buch­ar­ti­ger Sprach­duk­tus, meist „über­re­du­ziert“ und dadurch oberflächlich
  5. Inhalt­lich viel zu brei­te Anlage
  6. Kaum vor­han­de­ne Lesen­den­füh­rung, feh­len­de Vernetzung
  7. Selt­sa­me, unvoll­stän­di­ge Auf­zäh­lun­gen ohne Mehrwert
  8. Stot­te­rer“ (glei­che Satz­tei­le mehr­fach im Satz), z.B. „Es gibt ver­schie­de­ne Ampel­far­ben, z.B. rot, gelb, rot, blau.“
  9. Selt­sa­me, durch Goo­geln oder Lite­ra­tur­re­cher­che für SuS kaum auf­find­ba­re Belege
  10. Bei inter­na­tio­nal bedeut­sa­men The­men eine star­ke US-Zen­trie­rung der Quellen
  11. Von Sei­ten wie books.google.com usw. wird nur der Deeplink Link „zitiert“, obwohl der Text dahin­ter kom­plet­te biblio­gra­fi­sche Daten besitzt.
  12. […]

Jeder die­ser Text­mar­ker ist durch Spe­zi­fi­ka der LLMs mit Trans­for­mer­an­satz gut erklär­bar, die „Stot­te­rer“ etwa durch Modell­rau­schen oder der Sprach­duk­tus durch zu brei­tes the­men­über­grei­fen­des Trai­ning des Modells.

Die häu­fig zu brei­te inhalt­li­che Anla­ge lässt sich dadurch erklä­ren, dass in Wis­sens­do­mä­nen, in den sich ein Schrei­ber nicht aus­kennt, nicht sinn­voll zwi­schen Rele­vanz und Irrele­vanz unter­schie­den wer­den kann und auch die Aus­wahl eines sinn­vol­len Fokus erschwert ist. Das passt sehr gut zur Kogni­ti­ons­theo­rie mit Lang­zeit- und Arbeits­ge­dächt­nis.

Daher glau­be ich mitt­ler­wei­le, dass LLMs völ­lig unge­eig­net für Novi­zin­nen in einem The­ma sind, wenn sie sich einen Über­blick dar­über ver­schaf­fen wol­len oder ohne Vor­re­cher­che Glie­de­run­gen mit sol­chen Werk­zeu­gen erstel­len las­sen – ent­ge­gen häu­fig beschrie­be­ner unter­richt­li­cher Ein­satz­sze­na­ri­en auf Socialmedia. 

Ausblick

Die häu­fig ange­bo­te­ne „Lösung“ bei schlech­ten Ergeb­nis­sen durch LLMs besteht dar­in, den „Feh­ler“ in man­geln­den Promp­ting-Skills zu sehen. Mich über­zeugt das immer weni­ger, gera­de wenn es dar­um geht, einen geschlos­se­nen Gedan­ken­gang unter Ver­wen­dung von Sekun­där­li­te­ra­tur zu ent­wi­ckeln. Ein her­aus­ra­gen­der Text setzt für mich eige­ne Lebens­rea­li­tät, eige­nen Erfah­run­gen in der Welt in Bezug zu Erfah­run­gen aus Lite­ra­tur, For­schungs­er­geb­nis­sen Drit­ter usw..

Wir kön­nen in Bezug auf LLMs alles daher­ar­gu­men­tie­ren, aber genau an dem feh­len­den indi­vi­du­el­len Welt­be­zug muss es sys­tem­be­dingt bei unse­ren heu­ti­gen algo­rith­mi­schen Ansät­zen immer scheitern.

Es gibt Anwen­dun­gen, für die LLMs gera­de­zu prä­de­sti­niert sind, näm­lich bei allem, was im Prin­zip ent­seelt ist und kei­nen indi­vi­du­el­len beruf­li­chen Arbeits­schwer­punkt bil­det: Aus PDFs Excels­heets machen, vie­le For­men von Gut­ach­ten, Ver­mer­ke Anträ­ge – d.h. Kom­mu­ni­ka­ti­ons­si­tua­tio­nen, die im Prin­zip kaum durch dia­lo­gi­sche, son­dern eher para­so­zia­le Dis­kur­se geprägt sind – gera­de auch in juris­ti­schen Berei­chen. Und gera­de dort dürf­te es hin­rei­chend gro­ße Märk­te geben, um spe­zia­li­sier­te Nischen­mo­del­le gezielt zu trainieren.

 

 

 

Herausforderungen bei der Nutzung von Sprachmodellen im Bildungssystem

Ich habe erst­ma­lig einen für mich sehr wich­ti­gen Text von Jep­pe Klit­gaard Stri­cker aus dem Eng­li­schen mit Hil­fe von https://www.deepl.com auf Deutsch über­setzt. Dabei habe ich nur eini­ge klei­ne­re Ver­än­de­run­gen vor­ge­nom­men. Ich nut­ze den ursprüng­li­chen Lin­ke­dIn-Post  von Jep­pe in mei­nen Grund­satz­vor­trä­gen zu KI (ab Folie 47), in den er in die­sem län­ge­ren Text wei­ter aus­ge­führt hat. Jep­pe ist seit über zwan­zig Jah­ren beruf­lich in der uni­ver­si­tä­ren Bil­dung unter­wegs und kommt aus Dänemark.

Die stille Revolution: Wie KI das Hochschulwesen auf den Kopf stellt

Wir erle­ben der­zeit tief­grei­fen­de Ver­än­de­run­gen in der Art und Wei­se, wie Schü­ler und Stu­den­ten den­ken und ler­nen, doch vie­le die­ser Ver­än­de­run­gen wer­den in Bil­dungs­krei­sen nach wie vor kaum the­ma­ti­siert. Wäh­rend sich Debat­ten über KI im Bil­dungs­we­sen oft auf aka­de­mi­sche Inte­gri­tät und Bewer­tungs­me­tho­den kon­zen­trie­ren, fin­den bereits tief­grei­fen­de kogni­ti­ve und ver­hal­tens­be­zo­ge­ne Ver­än­de­run­gen statt. Dar­über müs­sen wir sprechen.
Man soll­te im Blick haben, dass Stu­die­ren­de mög­li­cher­wei­se bereits unbe­wusst die cha­rak­te­ris­ti­schen Kom­mu­ni­ka­ti­ons­mus­ter der KI über­neh­men – eine Form der intel­lek­tu­el­len Spie­ge­lung, die in unge­zwun­ge­nen Gesprä­chen beginnt und sich dann in den aka­de­mi­schen Dis­kurs ein­schleicht. Dabei geht es nicht nur um das Nach­ah­men von Spra­che; viel­mehr han­delt es sich um eine poten­zi­el­le Ver­än­de­rung in der Art und Wei­se, wie Stu­die­ren­de Ideen ver­ar­bei­ten und formulieren.
Noch beun­ru­hi­gen­der ist viel­leicht, dass wir bereits ers­te Anzei­chen des­sen beob­ach­ten, was man als „digi­ta­le Abhän­gig­keits­stö­rung“ bezeich­nen könn­te – Schüler:innen, die ech­te Angst­ge­füh­le ver­spü­ren, wenn gene­ra­ti­ve KI-Tools vor­über­ge­hend nicht ver­füg­bar sind.

Die gesellschaftlichen Kosten

Die­se Abhän­gig­keit steht im Zusam­men­hang mit einem umfas­sen­de­ren Phä­no­men, bei dem sich Stu­die­ren­de zuneh­mend als Fach­ex­per­ten betrach­ten, nur weil gene­ra­ti­ve KI kom­ple­xe Inhal­te auf schein­bar leicht ver­ständ­li­che Wei­se prä­sen­tiert hat.
Die Illu­si­on, durch das Ver­ständ­nis der KI alles zu beherr­schen, droht tra­di­tio­nel­le Ansät­ze des Deep Lear­ning und des kri­ti­schen Den­kens zu unter­gra­ben, wenn wir nicht auf­pas­sen. Wenn gene­ra­ti­ve KI alles auf den ers­ten Blick ver­ständ­lich erschei­nen lässt, wird der ent­schei­den­de Kampf, der ech­tes Ler­nen oft beglei­tet, umgangen.
Die Aus­wir­kun­gen auf das kol­la­bo­ra­ti­ve Ler­nen sind eben­so besorg­nis­er­re­gend. Die Schü­ler begin­nen, die gemein­sa­me Pro­blem­lö­sung im Team zuguns­ten der effi­zi­en­te­ren, aber iso­lier­ten Ansät­ze gene­ra­ti­ver KI auf­zu­ge­ben. Grup­pen-Brain­stor­ming und gegen­sei­ti­ges Ler­nen – seit jeher ent­schei­den­de Kom­po­nen­ten für die Ent­wick­lung sowohl sozia­ler als auch kogni­ti­ver Fähig­kei­ten – wei­chen der Ein­ga­be von Stich­wor­ten sowie der Bera­tung und Unter­stüt­zung durch KI.
Die­ser Wan­del erfor­dert neue Ansät­ze hin­sicht­lich unse­rer Sicht­wei­se auf die sozia­len Aspek­te der Bil­dung, die tra­di­tio­nell Inno­va­ti­on, Krea­ti­vi­tät und emo­tio­na­le Intel­li­genz geför­dert hat.
Am beun­ru­hi­gends­ten ist jedoch viel­leicht die sich abzeich­nen­de Gefahr, dass Schüler:innen kom­ple­xe Her­aus­for­de­run­gen der rea­len Welt auf Auf­ga­ben redu­zie­ren, die ledig­lich opti­miert wer­den müs­sen, anstatt sie als Pro­ble­me zu betrach­ten, die mensch­li­ches Nach­den­ken und ein dif­fe­ren­zier­tes Ver­ständ­nis erfordern.
Wenn Schü­ler begin­nen, die Rea­li­tät durch die Bril­le der Promp­ting-Tech­nik zu betrach­ten, besteht die Gefahr einer grund­le­gen­den Ver­än­de­rung in der Art und Wei­se, wie künf­ti­ge Gene­ra­tio­nen an die Pro­blem­lö­sung herangehen.
Dies wirft auch Fra­gen hin­sicht­lich des Ver­trau­ens in Wis­sen auf. Da KI-Sys­te­me zuneh­mend kon­sis­tent klin­gen­de Ant­wor­ten lie­fern, könn­ten Schü­ler anfan­gen, an mensch­li­cher Fach­kom­pe­tenz zu zwei­feln, ins­be­son­de­re wenn die­se im Wider­spruch zu den Ergeb­nis­sen der KI steht.
Der Druck, mit der schein­bar makel­lo­sen Leis­tung der KI mit­hal­ten zu müs­sen, könn­te eine neue Form des Per­fek­tio­nis­mus begüns­ti­gen, die Krea­ti­vi­tät und Risi­ko­be­reit­schaft hemmt. Ganz zu schwei­gen von den Pro­ble­men, die dies hin­sicht­lich der fach­li­chen Auto­ri­tät im Klas­sen­zim­mer und dar­über hin­aus mit sich bringt.

Die Köpfe von morgen formen

Die­se Ver­än­de­run­gen bedeu­ten sicher­lich mehr als nur eine Umstel­lung der päd­ago­gi­schen Metho­den – sie deu­ten auf eine grund­le­gen­de Neu­ge­stal­tung der Art und Wei­se hin, wie künf­ti­ge Gene­ra­tio­nen den­ken, ler­nen und Pro­ble­me lösen wer­den. Die eigent­li­che Umwäl­zung liegt nicht dar­in, wie wir unter­rich­ten, son­dern dar­in, wie der Geist unse­rer Schü­ler durch die stän­di­ge Inter­ak­ti­on mit künst­li­cher Intel­li­genz neu geprägt wird.
Tra­di­tio­nel­le Bil­dungs­hier­ar­chien gera­ten ins Wan­ken, da Stu­die­ren­de zuneh­mend auf KI zurück­grei­fen, um Ant­wor­ten zu fin­den, bevor sie ihre Pro­fes­so­ren oder Kom­mi­li­to­nen um Rat fra­gen. Die­ser Wan­del wirkt sich nicht nur auf die Dyna­mik im Unter­richt aus. Er ver­än­dert grund­le­gend, wie Wis­sen vali­diert und Auto­ri­tät in Bil­dungs­ein­rich­tun­gen eta­bliert wird.
Folg­lich ist die Her­aus­for­de­rung für Päd­ago­gen kom­ple­xer als die blo­ße Anpas­sung von Unter­richts­me­tho­den – sie erfor­dert, die­se tie­fer­ge­hen­den kogni­ti­ven und ver­hal­tens­be­zo­ge­nen Ver­än­de­run­gen zu ver­ste­hen und dar­auf ein­zu­ge­hen. Wir müs­sen sicher­stel­len, dass wir, wenn wir die Vor­tei­le gene­ra­ti­ver KI nut­zen, nicht ver­se­hent­lich zen­tra­le Aspek­te des Ler­nens und der Ent­wick­lung gefähr­den, die seit Jahr­hun­der­ten im Mit­tel­punkt der Bil­dung ste­hen. Oder zumin­dest soll­te es, falls wir dies tun, eine bewuss­te und wohl­über­leg­te Ent­schei­dung sein. Eine Ent­schei­dung, die von Päd­ago­gen getrof­fen wird.
Die heu­ti­gen päd­ago­gi­schen Prak­ti­ken prä­gen nicht nur die unmit­tel­ba­ren Lern­ergeb­nis­se, son­dern auch die kogni­ti­ve Struk­tur künf­ti­ger Gene­ra­tio­nen. Da künst­li­che Intel­li­genz zuneh­mend in Bil­dungs­pro­zes­se inte­griert wird, müs­sen wir sorg­fäl­tig abwä­gen, wie sich die­se Tech­no­lo­gie nicht nur auf das aus­wirkt, was Schü­ler ler­nen, son­dern auch dar­auf, wie sie den­ken, inter­agie­ren und die Welt um sich her­um verstehen.
Die Ent­schei­dun­gen, die wir heu­te in Bezug auf KI im Bil­dungs­we­sen tref­fen, wer­den noch sehr, sehr lan­ge nach­wir­ken. Ob wir hier die rich­ti­gen (oder fal­schen) Ent­schei­dun­gen tref­fen, wird die kol­lek­ti­ve intel­lek­tu­el­le Leis­tungs­fä­hig­keit der Gesell­schaft über Gene­ra­tio­nen hin­weg beeinflussen.

Quel­le: https://jeppestricker.substack.com/p/the-silent-revolution-how-ai-is-slowly

 

Kritisches Denken ohne Fachwissen ist kein Denken. Es ist Raten mit Methode.

Ein wei­te­rer, für mich wich­ti­ger Text kommt von Bar­ba­ra Gey­er aus dem öster­rei­chi­schen Bur­gen­land. Letzt­lich begrün­det sie, war­um kri­ti­sches Den­ken nicht ohne Anbin­dung an kon­kre­te Wis­sens­do­mä­nen funk­tio­nie­ren kann.

Die bri­ti­sche Bil­dungs­for­sche­rin Dai­sy Chris­to­dou­lou beschreibt das Pro­blem seit 2014. Kri­ti­sches Den­ken ist kei­ne Gene­ral­kom­pe­tenz, die man ein­mal lernt und dann auf belie­bi­ge Inhal­te anwen­den kann. Es ist gebun­den an Wis­sen über den kon­kre­ten Gegen­stand. Ohne die­ses Wis­sen grei­fen die bes­ten Check­lis­ten ins Lee­re. Kri­ti­sches Den­ken ohne Fach­wis­sen ist kein Den­ken. Es ist Raten mit Methode.

Quel­le: https://barbarageyer.substack.com/p/ki-fachkompetenzschwelle

Das ist letzt­lich Was­ser auf mei­nen Müh­len, wel­che Rol­le KI im Bil­dungs­sys­tem für mich eigent­lich ein­neh­men sollte.

  1. Was muss ich kön­nen, bevor ich ein Sprach­mo­dell sinn­voll für mei­nen Lern­pro­zess nut­zen kann?
  2. Wenn ich das kann: Wobei kann mir das Sprach­mo­dell kon­kret helfen?

 

Wo ich mir KI im Bildungssystem gut vorstellen kann

Zur­zeit bin ich mit mei­nen Gedan­ken eher in der abo­lu­ten Min­der­heit, weil sehr viel Hoff­nung auf KI im Bil­dungs­sys­tem gesetzt wird. Bei aller kri­ti­schen Betrach­tung: Ich habe bereits Anwen­dungs­fäl­le for­mu­liert, in denen ich KI als gutes Werk­zeug wahr­neh­me. Ich möch­te heu­te noch den Bereich der Inklu­si­on hin­zu­fü­gen – ich sehe in KI vie­le Poten­ti­al, Kom­mu­ni­ka­ti­on inklu­si­ver zu machen und Sprach­bar­rie­ren zu überwinden.

Vorsorgeprodukte von der privaten Krankenversicherung?

Mein pri­va­ter Kran­ken­ver­si­che­rer rief mich kürz­lich an, ob ich nicht Inter­es­se dar­an hät­te, mei­ne unwei­ger­li­che Bei­trags­er­hö­hung im Alter durch ein Pro­dukt abzu­si­chern und für mei­ne gesam­te Pen­si­ons­zeit einen ver­min­der­ten Bei­trag zu zahlen.

Der Deal sieht etwa so aus:

  • ich zah­le jetzt 15 Jah­re lang 100,- Euro mehr Kran­ken­ver­si­che­rungs­bei­trag (net­to, unter Berück­sich­ti­gung der Steu­er­frei­heit von Vorsorgeprodukten).
  • dafür min­dert sich mein Bei­trag für die gesam­te ver­blei­ben­de Lebens­span­ne um 150,- Euro monatlich.

Hört sich erst­mal gut an. Rech­nen wir das doch mal.

 

Wie viel Kapi­tal kann ich in 15 Jah­ren mit 100 Euro/Monat bei unter­schied­li­cher Ver­zin­sung aufbauen?

Wir nut­zen dazu ein Online­tool, wel­ches nach aner­kann­ten Stan­dards arbei­tet und neh­men eine jah­res­wei­se Zins­gut­schrift an.

Das auf­ge­bau­te Kapi­tal bei unter­schied­li­chen Zinssätzen:

  • bei 2% : 20752,- Euro
  • bei 4% : 24028,- Euro
  • bei 6% : 27931,- Euro

 

Wie lan­ge kann ich aus dem auf­ge­bau­ten Kapi­tal­stock monat­lich 150,- Euro entnehmen? 

Ich nut­ze das glei­che Online­tool wie bei der Kapitalberechnung:

  • bei 2% : 13,1 Jah­re (da wäre ich 80 Jah­re alt)
  • bei 4% : 18,9 Jah­re (da wäre ich 86 Jah­re alt)
  • bei 6% :  40,6 Jah­re (da wäre ich 107 Jah­re alt)

Die durch­schnitt­li­che Lebens­er­war­tung eines Man­nes beträgt momen­tan 78 Jah­re, d.h. mit einer Ver­zin­sung unter­halb von 2% ist die eige­ne Geld­an­la­ge dem Pro­dukt des Kran­ken­ver­si­che­rers sta­tis­tisch(!) über­le­gen. Ster­be ich frü­her: Noch bes­ser für den Kran­ken­ver­si­che­rer, da die Anla­ge ja an den Ver­si­che­rungs­ver­trag gebun­den ist, der dann erlischt.

Das Pro­dukt ist zumin­dest im sta­tis­ti­schen Mit­tel also eine Ver­ar­schung des Kun­den – und des Steu­er­zah­lers, der die­sen Irr­sinn durch die Steu­er­frei­heit auch noch mit­fi­nan­ziert – ansons­ten wäre die Net­to­zah­lung noch höher als 100,- Euro. Es wird aber Fäl­le geben (sehr weni­ge), in denen sich sowas rechnet.

 

Gegen­rech­nung mit ETF-Sparplan

Neh­men wir mal einen lang­wei­li­gen ETF, der den DAX abbil­det (7%)  und machen einen Spar- und Ent­nah­me­plan. Auf Basis von his­to­ri­schen Daten kommt da raus:

31110,- Euro und man kann endlos(sic!) 150,- Euro monat­lich ent­neh­men (inner­halb der sta­ti­schen Lebens­er­war­tung sogar über 300,- Euro monatlich).

Und zu kei­ner Zeit zahlt in dem Bereich irgend­wer Kapi­tal­ertrags­steu­er, was man euch ger­ne als Vor­teil ver­kauft (die schlägt erst bei 1000,- Euro Zinsen/Jahr bei Unver­hei­ra­te­ten zu).

Unge­fähr in sol­chen Berei­chen dürf­te sich auch die Gewinn­span­ne des Ver­si­che­rers bewe­gen, weil der das ger­ne mit lang­fris­ti­gen Staats­an­lei­hen absi­chert, die momen­tan bei rund 3–4% liegen.

 

Fazit

  • Lasst das!
  • Lasst auch Ries­ter­ver­trä­ge (rech­net mal trotz Zula­gen gegen ETF-Sparplan)
  • Habt ihr Schul­den: Tilgt die­se lie­ber mit dem Geld, was ihr über habt (da seid ihr immer über 2% Gewinn)

 

 

 

Warum lohnt sich die Anstrengung, KI nicht zu nutzen?

Phil­ip­pe Wampf­ler denkt in sei­nem letz­ten Blog­ar­ti­kel dar­über nach, wie lan­ge es noch mög­lich sein wird, KI zur Erstel­lung von Tex­ten in der Schu­le nicht zu nut­zen bzw. wie lan­ge es dafür noch gute Argu­men­te gibt . Er nutzt dafür eine Ana­lo­gie: Nie­mand wür­de heu­te auf die Idee kom­men, im All­tag Sah­ne mit der Hand zu schla­gen, weil mitt­ler­wei­le elek­tri­sche Rühr­ge­rä­te zur Ver­fü­gung ste­hen. Irgend­wann wird nie­mand mehr auf Idee kom­men, Tex­te selbst zu ver­fas­sen, weil KI-Model­le immer bes­ser und nor­ma­ler werden.

Ich habe Schwie­rig­kei­ten mit Ana­lo­gien aus der „ana­lo­gen Welt“ in Bezug auf den gesell­schaft­li­chen Wan­del durch die digi­ta­le Welt. Ob ich Sah­ne mit einer Gabel oder einem Rühr­ge­rät schla­ge, ist bezo­gen auf das Pro­dukt, was dabei ent­steht, letzt­lich nicht ent­schei­dend. Es kommt immer mehr oder weni­ger steif geschla­ge­ne Sah­ne dabei her­aus. Die Kon­sis­tenz der Sah­ne hat dar­über­hin­aus über­haupt kei­ne Wir­kung nach außen – KI hin­ge­gen das Poten­ti­al mit Gesell­schaft in viel­fäl­ti­ger Wei­se zu wechselwirken.

Was an Aus­ga­ben aus einem Sprach­mo­dell kommt, ist mehr oder min­der zufäl­lig. Dass mir ein Sprach­mo­dell einen Text kor­rekt zusam­men­fasst, hängt letzt­lich von sta­tis­ti­schen Berech­nun­gen ab. Bei einem Scan­ner oder Kopie­rer wür­den wir nicht akzep­tie­ren, wenn es zu zufäl­li­gen Aus­ga­ben kommt. Bei Sprach­mo­del­len ist das prin­zip­be­dingt so und wir akzep­tie­ren es. Man kann zwar in Gren­zen Aus­ga­ben beein­flus­sen, aber hät­te dann ggf. den Text in der glei­chen Zeit selbst ver­fasst, die man für das Fin­den eines geeig­ne­ten Prompts benötigt.

Nie­mand löst das mit KI erstell­te Arbeits­blatt bes­ser als KI. Nie­mand beant­wor­tet KI-gene­rier­te Fra­gen zu einem Video bes­ser als KI. Das wis­sen auch Schüler:innen.

Es gibt die Hoff­nung, dass Sprach­mo­del­le bes­ser wer­den könn­ten – dazu müss­te mei­ner Mei­nung nach aber ein tech­nisch gänz­lich neu­er Ansatz ent­wi­ckelt wer­den – der bis­he­ri­ge Trans­for­mer­an­satz hat prin­zip­be­ding­te Gren­zen – schon allein, weil das zur Ver­fü­gung ste­hen­de Trai­nings­ma­te­ri­al limi­tiert ist und dar­über­hin­aus immer mehr KI-gene­rier­te Tex­te das Netz flu­ten, die dann ihrer­seits in einer Feed­back­schlei­fe ihren Weg zurück in die gro­ßen Model­le finden.

Mich treibt eher die­se Fra­ge um:

Was muss man eigent­lich kön­nen, bevor man ein Sprach­mo­dell sinn­voll nut­zen kann?

Um Pro­duk­te für die Schu­le zu gene­rie­ren, muss man eigent­lich in vie­len Fäl­len gar nicht so viel kön­nen, aber ist das letzt­lich für das Ler­nen bzw. den Kom­pe­tenz­er­werb dann hilfreich?

Ich bil­de mir mitt­ler­wei­le ein, KI-gene­rier­te Tex­te deut­lich bes­ser iden­ti­fi­zie­ren zu kön­nen, weil sie u.a. immer einen hin­ein­trai­nier­ten Bias mitbringen.

Ich sehe Sprach­mo­del­le eher da, wo es weni­ger um Ler­nen oder Wis­sen geht.

  • Recht­schreib­kor­rek­tur
  • Erstel­lung von ent­seel­ten Tex­ten (Gut­ach­ten, Anträ­ge, Ver­mer­ke, Produktbeschreibungen…)
  • Doku­men­ten­ma­nage­ment (Such­hil­fe)
  • auto­ma­ti­sche Über­set­zung ent­seel­ter Tex­te (bei z.B. Dia­lo­gen oder lite­ra­ri­schen Tex­ten geht das bis­her m.E. noch nicht gut)
  • ggf. Erstel­lung von Übungs­ma­te­ri­al (wenn den Üben­den kei­ne KI zur Ver­fü­gung steht – s.o.)

Für Digi­tal­kon­zer­ne sind Sprach­mo­del­le vor allem ein gro­ßes Geschenk, um an Inhal­te jed­we­der Art zu kom­men, ohne dass die meis­ten Benutzer:innen das in irgend­ei­ner Form pro­ble­ma­tisch fin­den.  Und das ist nur eine der wei­ter oben ange­deu­te­ten Wech­sel­wir­kun­gen. Mit Sah­ne erreicht man das nicht. Daher ist für mich die­se Ana­lo­gie nur auf den ers­ten Blick einleuchtend.

 

 

1 2 3 50