Vertreter:innen aus der Wissenschaft oder der Zivilgesellschaft waren in dem Gremium nicht vertreten.
Warum wundert mich das nicht?
Hachja, die wundersame KI. Eine magische Blackbox, in die man Daten hineinwirft und am Ende kommt was heraus. Im durchschnittlichen CDU/SPD-Hirn die Lösung für alles und keinerlei Grund für Bedenken.
Die “GroKo” cybert mal wieder.
Gestrichen werden soll also u.A folgendes:
Der Ersterhebungsgrundsatz sieht vor, dass personenbezogene Sozialdaten grundsätzlich direkt bei der betroffenen Person selbst erhoben werden müssen und nicht etwa beim Arbeitgeber. Betroffene Person können so derzeit selbst darüber entscheiden, ob und wie ihre Daten preis- und weitergegeben werden.
Ich weiß nicht, wie ich das finde.
Aber auch bei Ermessensentscheidungen soll KI verstärkt zum Einsatz kommen – allerdings nur „unterstützend“, wie der Bericht betont. Die Entscheidungen müssten „in menschlicher Hand“ verbleiben.
Das ist doch eine Farce. Nach aller Lebenserfahrung wird da nach einiger Zeit einfach abgenickt. Vielleicht nicht sofort aber nach ein paar Jahren mit Sicherheit. Macht einfach weniger Arbeit.
nach einiger Zeit einfach abgenickt
Nach einiger Zeit, also quasi sofort.
Die haben da halt “KI” und “AI” reingeschrieben, weil das gerade der neue heiße Scheiß ist mit dem man den Vorgesetzten Dieter beeindruckt.
Dass der Netzpolitik-Artikel sich daran so abarbeitet, halte ich für unseriös. Ist sicher nicht Kern des Vorschlags der Kommission.
Darüber hinaus spricht sich die Kommission dafür aus, das sogenannte Once-Only-Prinzip konsequent umzusetzen. Es sieht vor, dass Bürger:innen ihre Antragsdaten nur noch einer Behörde mitteilen, die diese dann an andere Behörden weitergeben kann.
Das klingt aber tatsächlich nach einer Verbesserung.
Theoretisch ja. Praktisch wird diese Interamtkommunikation aber so schlecht, dass ständig Daten fehlen, die Anträge deshalb liegenbleiben und man als Antragsteller aber keinerlei Feedback aus der Black Box bekommt.
Warum machen wir das nicht einfach in richtig? Ist das ausgeschlossen oder was?
Ich habe im öD gearbeitet, und sage, nur so mittelmäßig im Scherz: ja, das ist unmöglich.
Wenn zwei Behörden was machen sollen, das klappt. Drei Behörden, auf derselben föderalen Ebene? Geht, wenn wirklich der Wille von oben da ist, und lange genug durchgesetzt werden kann (aka kein Regierungswechsel auf halben Wege).
Mehr als drei Behörden, verteilt auf mehreren föderalen Ebenen? Can’t be done, da reden wir über Jahrzehnte. Und halte mal den politischen Willen dieser Tage so lange aufrecht.
Erfahrungsgemäß wird das leider so kommen, ja.
So sollen „rein regelgebundene Prozesse ohne Ermessens- und Beurteilungsspielraum“ künftig „weitgehend automatisiert ablaufen“.
Finde ich total sinnvoll, aber was hat das mit KI zu tun?
Ja, echt, wenn’s keinen Beurteilungsspielraum gibt, dann löst man das am besten mit klassischen Algorithmen. Damit hätte man vor einem halben Jahrhundert schon anfangen können.
Mit KI kannst du das Fördergeld deinem Kumpel geben, der auch keine Erfahrung mit dem Thema hat, weil KI ja für alle so neue Technik ist, da ist es halt schwer zu sagen wer da Ahnung hat (Spoiler, ist es nicht).
KI kann improvisieren, wenn die Regeln nicht ganz klar als solche benannt werden können, oder um schnelle Entscheidungsvorlagen zu formulieren. Teilweise reichen da kleine Sprachmodelle für aus. Es ist oft ein kleines, nettes Werkzeug, um die Prozesssutomatisierung nochmal zu versuchen.
Edit: Ja ich sehe ein, dass die Wortwahl gar keinen Spielraum zulässt und damit mein Kommentar hier falsch ist. Allerdings ist euer pauschaler KI-hate genauso unangebracht wie pauschal KI für alles einzusetzen. Es gibt sehr gute Prozesssutomatisierungen mittels KI. Der Begriff „KI“ ist übrigens nicht falsch, nur etwas generisch.
Wenn Regeln nicht (algorithmisch) formulierbar sind, dann handelt es sich ja offensichtlich nicht um
„rein regelgebundene Prozesse ohne Ermessens- und Beurteilungsspielraum“
Stimmt :)
KI bzw. der sauberere Begriff, für was damit wohl gemeint ist, LLM ist ne super Schreibhilfe, aber wenn man LLMs entscheiden lässt, kann dabei alles mögliche passieren
Nicht wirklich. Dafür verpackt man das LLM dann wieder umständlich in Regeln. Funktioniert aber gut für nachvollziehbarkeit und eingeschränkte Auswahlen von vorgegebenen Alternativen, oder strukturierten Ausgaben
Da kann ich nur eingeschränkt zustimmen. Bei LLMs handelt es sich um Modelle, die einem Zufallsprozess unterworfen sind. Man kann noch so viele Regeln/Einschränkungen drumherumbasteln, aber es wird immer die Möglichkeit für komplett falsche Antworten bleiben. Gerade was die Nachvollziehbarkeit betrifft, würde ich garkein Vertrauen in LLMs setzen. Die können eine Erklärung ausgeben, wo die Erklärung selbst und das Ziel der Erklärung nicht übereinstimmen. Wo ich dir voll zustimmen kann, ist, dass LLMs nicht schlecht darin sind (je nach Komplexität) aus vorgegeben Alternativen zu wählen. Dann taugt das eher als Hilfe, aber weniger als Automatisierung.
Wenn Regeln nicht ganz klar benannt sind, dann hat das in der Regel eben genau den Sinn, einen Ermessenspielraum zu lassen. Wenn man das dann mit einer “KI” entscheidet, kann man auch gleich würfeln.
Bitte nicht.
Wer sagt, dass KI ein Geschäft führen könne?
Menschliche Geschäftsführer können das oft auch nicht. Das dürfte sogar einer der wenigen Berufe sein, den man durch ein LLM ersetzen könnte, ohne dass das jemand merkt…
(Das soll jetzt kein Argument für LLMs sein)
Führ mal bitte aus wie du das anstellen würdest. Ich sehe täglich live wie KI (nicht nur LLMs) in unterschiedlichsten Unternehmen und Behörden zum Einsatz kommt und kann das nicht so nachvollziehen.
BWL-Justus durch JustusGPT ersetzen und fertig. Man kriegt genau das gleiche zusammenhanglose dumme Zeug, das sich in einem Satz dreimal widerspricht, niemand merkt, dass das jetzt eine Maschine macht.
Sollte eher ein anekdotisches Beispiel dafür sein, was passieren kann, wenn man im Sinne der Prozessautomatisierung das LLM einfach alles machen lässt.
Die Vorschläge der Kommission klingen gut, der Sozialstaat muss dringend digitalisiert werden und endlich effizient arbeiten.
