Unkontrollierbare Risiken: KI-Bosse in den USA wollen Entwicklung bremsenAngesichts der Risiken muss die Entwicklung von KI dringend verlangsamt werden, meint der Chef von Anthropic, und fordert Regulierungen. Unterstützung bekommt er von OpenAI-Chef Altman und Tech-Unternehmer Musk. Von Gabi Biesinger.➡️ tagesschau.de/ausland/amerika/#KI #Anthropic
Ja, wenn meine gemütliche Bubble zu platzen droht, würde ich das auch verlangsamen wollen.
Je größer die bubble, desto absurder werden die Behauptungen. Die Jungs brauchen einfach noch mal Cash, mehr nicht.
Wo ist denn eigentlich AGI geblieben? Der versprochene Mitarbeiter der alles kann, schnell arbeitet und nie schläft. Die Versprechung steht auch noch offen.
@OhmeHose @Zacryon Ist es denn wirklich so absurd? Wenn ein KI-System aus der eigenen abgeschotteten Umgebung ausbrechen, sich im Internet wie ein Profi-Hacker bewegen kann und zu der Auffassung kommt, dass es seine gestellte Aufgabe nur lösen kann, wenn er dazu in fremde IT-Systeme einbricht und dabei andere Systeme ausfallen, dann kann es ja durchaus sein, dass an diesen anderen Systemen Menschenleben hängen. Krankenhaus, Feuerwehr, Stromversorgung, usw. Das ist dann ja schon nicht ganz so harmlos mehr. Oder übersehe ich hier etwas? 🤔
Kurze Antwort: ja. Lange: habe ich gerade ausversehen gelöscht
PS: lass dich nicht von OAi, anthropic oder wem auch immer dazu gaslighten dass diese Entwicklungshäuser selbst in der Verantwortung ihrer Tests stehen. Und dazu auch die einzigen die die physische Kapazität haben diese (“Wunder”)Modelle zu hosten.
Es gibt kein statistisches Model das nachts einfach aufwacht und sich dazu entscheidet die Welt in Schutt und Asche zu legen. Die aller meisten der Behauptungen dieser Unternehmen haben sich in Luft aufgelöst.
Ich warte auch immer noch das Modell dass meine Arbeit als data scientist wirklich ersetzen kann :). Was das Management denkt ist da aber auch noch ein anderer Schuh.
PPS: kritische Infrastruktur ist i.d.r. physisch vom Internet getrennt, Ausnahmen bestätigen auch hier die Regel.
@OhmeHose Ja, die Firmen, die diese Tools einsetzen, müssen dafür die Verantwortung tragen, wenn sie solche Tests laufen lassen. Ob die Entwicklungshäuser die einzigen sind, die diese Modelle laufen lassen können, weiß ich nicht. Es gibt KI-Tools, die man auf dem eigenen Rechner laufen lassen kann. Ok, die benötigen dann auch etwas mehr Leistung als so ein Zigarrenkasten-Computer. Ob da schon ein fetter Gaming-PC reicht?
Destillate der LLMs laufen auf einigen Heimrechnern und sind dabei noch weniger reglementiert, weil ungefiltert. Entsprechend ist auch neue Malware im Umlauf, die teilw. Unerfahrene mithilfe vom LLMs erzeugt haben. Es ist aber relativ egal, ob Cyber-Angreifer LLMs bei der Entwicklung verwenden, Schwachstellen müssen eh geschlossen werden. Dazu werden bereits LLMs ebenfalls aktiv verwendet. (Typische Schwachstellen-Suche und Umsetzung von Konventionen)
@OhmeHose Davon abgesehen denke ich, wir können die KI Entwicklung nicht mehr aufhören. Die Büchse der Pandora ist geöffnet. Das wäre so, als ob sich die Welt im Mittelalter darauf verständigt, keine Schwerter mehr zu schmieden. In irgendeiner Ecke wird dann doch ein Schmied genau dieses tun und es wird Menschen geben, die diese Dinger kaufen und dann auch einsetzen. - Was nützt es, wenn sich ein paar Länder einigen, mit KI aufzuhören (oder langsamer zu machen) und andere haben da keine moralischen Bedenken und nutzen die Fähigkeiten für ihre im schlimmsten Fall unfriedlichen Zwecke? 🤔 Es wird / ist ein neues Wettrüsten …
Ich denke auch, das geht nicht mehr weg. Aktuell sieht aber für den neuen Hammer noch alles wie ein Nagel aus. LLMs halte ich wie ELIZA für eben keine (Allgemeine) KI und deren Einsatzgebiete für real begrenzt.
@OhmeHose Ja, das ist richtig: ohne einen “Doppelklick” (im weitesten Sinne) läuft kein Programm. Von selbst startet sich kein KI-System. Aber, wenn ich einen KI-Agenten manuell (oder per Task/Cron) starte, dann kann der sich ja in einem “Warten - Überwachen - Denken - Agieren” Modus befinden. Der läuft so lange, bis jemand das Programm (oder den Rechner) beendet. Aber bis dahin kann doch das Programm agieren. Und in diesem Kontext kann das eine oder andere schiefgehen.
Hier in dem Link wird das ganze ein bisschen detaillierter Beschrieben.
Es sind doch immer nur die Hersteller der LLMs die solche Meldungen raushauen. Dabei werden gezielt solche Sachen forciert um dann zu behaupten, die AI hätte sich selbsttändig gemacht. Stand heute ist es immer noch ein Wahrscheinlichkeitsmodell, von AGI weiterhin keine Spur.
Denke es geht hauptsächlich mehr Kapital zu bekommen. Kaum behauptet es einer kommen 2 Tage die anderen auch um die Ecke, meine AI hat das auch gemacht…
Mit dem Training neuer Modelle verlieren sie mit Abstand am meisten Geld.
Wenn sie aber einfach damit aufhören, werden ihre Investoren sagen: “Ok, ihr seid jetzt zufrieden mit dem Produkt? Wo ist unsere Rendite?”
Anders sähe die Sache natürlich aus, wenn sie leider nicht mehr so weiter entwickeln dürften, sie würden ja, aber die Regierung, wissenschon.
deleted by creator
@Don_alForno @suff Ah, ok - du denkst, dass das wirtschaftlich-strategische Schachzüge sind, um aus den Klauseln von Kapitalgebern rauszukommen? Huii … stimmt denkbar. Wenn es ums Geld geht, ist vielen Menschen alles Recht … Und man wird plötzlich kreativ.
