Eine Fachkommission der Bundesregierung hat Empfehlungen vorgelegt, die den Sozialstaat bürgernäher und digitaler machen sollen. Dafür will sie den Datenschutz aufweichen und Verfahren mit Hilfe sogenannter Künstlicher Intelligenz automatisieren. Wohlfahrtsverbände warnen vor zusätzlicher Diskriminierung.

Vertreter:innen aus der Wissenschaft oder der Zivilgesellschaft waren in dem Gremium nicht vertreten.

Warum wundert mich das nicht?

  • unnamed1@feddit.org
    112·
    3 months ago

    KI kann improvisieren, wenn die Regeln nicht ganz klar als solche benannt werden können, oder um schnelle Entscheidungsvorlagen zu formulieren. Teilweise reichen da kleine Sprachmodelle für aus. Es ist oft ein kleines, nettes Werkzeug, um die Prozesssutomatisierung nochmal zu versuchen.

    Edit: Ja ich sehe ein, dass die Wortwahl gar keinen Spielraum zulässt und damit mein Kommentar hier falsch ist. Allerdings ist euer pauschaler KI-hate genauso unangebracht wie pauschal KI für alles einzusetzen. Es gibt sehr gute Prozesssutomatisierungen mittels KI. Der Begriff „KI“ ist übrigens nicht falsch, nur etwas generisch.

    • ftbd@feddit.org
      22·
      3 months ago

      Wenn Regeln nicht (algorithmisch) formulierbar sind, dann handelt es sich ja offensichtlich nicht um

      „rein regelgebundene Prozesse ohne Ermessens- und Beurteilungsspielraum“

      • unnamed1@feddit.org
        1·
        3 months ago

        Nicht wirklich. Dafür verpackt man das LLM dann wieder umständlich in Regeln. Funktioniert aber gut für nachvollziehbarkeit und eingeschränkte Auswahlen von vorgegebenen Alternativen, oder strukturierten Ausgaben

    • trollercoaster@sh.itjust.worksDeutsch
      10·
      3 months ago

      Wenn Regeln nicht ganz klar benannt sind, dann hat das in der Regel eben genau den Sinn, einen Ermessenspielraum zu lassen. Wenn man das dann mit einer “KI” entscheidet, kann man auch gleich würfeln.

        • trollercoaster@sh.itjust.worksDeutsch
          2·
          3 months ago

          Menschliche Geschäftsführer können das oft auch nicht. Das dürfte sogar einer der wenigen Berufe sein, den man durch ein LLM ersetzen könnte, ohne dass das jemand merkt…

          (Das soll jetzt kein Argument für LLMs sein)

          • unnamed1@feddit.org
            1·
            3 months ago

            Führ mal bitte aus wie du das anstellen würdest. Ich sehe täglich live wie KI (nicht nur LLMs) in unterschiedlichsten Unternehmen und Behörden zum Einsatz kommt und kann das nicht so nachvollziehen.

            • trollercoaster@sh.itjust.worksDeutsch
              2·
              3 months ago

              BWL-Justus durch JustusGPT ersetzen und fertig. Man kriegt genau das gleiche zusammenhanglose dumme Zeug, das sich in einem Satz dreimal widerspricht, niemand merkt, dass das jetzt eine Maschine macht.