Das KI-Modell "Mythos 5" der Firma Anthropic hat offenbar erneut eigenmächtig gehandelt. Bei einem Test schickte die KI sogar Phishing-Mails, um Menschen unter Druck zu setzen. Die beteiligten Forscher zeigten sich überrascht.
    • You@feddit.orgOP
      3·
      17 days ago

      Anthropic verwies in einer Reaktion unter anderem darauf, dass dem KI-Modell in dem Test keine Einschränkungen zur Internetnutzung vorgegeben worden seien. Durch die fehlenden Leitplanken habe es sich anders verhalten als tatsächlich eingesetzte Software, argumentierte das Unternehmen.

      Ich finde diese Aussage auch nicht gerade beruhigend. Wir lassen das Kind einfach mal ohne Einschränkung draußen “laufen” und schauen, was passiert.

  • HaraldvonBlauzahn@feddit.org
    5·
    16 days ago

    Das KI-Modell “Mythos 5” der Firma Anthropic hat offenbar erneut eigenmächtig gehandelt. Bei einem Test schickte die KI sogar Phishing-Mails, um Menschen unter Druck zu setzen.

    Wenn das stimmen täte, sollte es nicht durch den TÜV kommen. Unkontrollierbare Maschinen sind per Definition nicht sicher.

    Man sollte auch jedem Versuch widerstehen, legale Haftung für Softwaresysteme aufzuweichen. Wenn ich mit meinem agressiven Hund ohne Leine und Maulkorb auf die Strasse gehe, und der beisst jemand tot, muss ich auch haften und bin strafrechtlich verantwortlich. Und das wird nicht besser, wenn es mein Hobby ist, Schwarze Mambas zu züchten.

  • RoflmasterBigPimp@feddit.orgDeutsch
    3·
    17 days ago

    Erst wurden die Jobs alle fremd-vergeben und jetzt kommt KI! Wie soll sich denn ein menschlicher Hacker aus Mitteleuropa überhaupt noch seinen Lebensunterhalt ergaunern!11!!! /s