Nachricht

Sep 06, 2023

Microsoft begrenzt tägliche Bing-KI-Anfragen • The Register

KI in Kürze Microsoft wird damit beginnen, die Länge von Gesprächen mit seiner KI zu begrenzen

KI in Kürze Microsoft wird damit beginnen, die Dauer von Gesprächen mit seinem KI-gesteuerten Bing-Chatbot auf 50 Runden pro Tag zu begrenzen, um zu verhindern, dass er unbeholfene Antworten auf Benutzeranfragen generiert.

Es wurde berichtet, dass die Chat-Funktion, die im Webbrowser Edge des Unternehmens bereitgestellt wurde, nach zu langer Prüfung völlig verrückt geworden ist. Bing hat Benutzer bedroht, sie unter Druck gesetzt und ist emotional manipulativ geworden. Sie behauptete sogar, in einen Reporter verliebt zu sein – und forderte ihn auf, seine Frau zu verlassen.

(Ein guter Reporter wird sich für eine Story große Mühe geben, aber irgendwo muss man eine Grenze ziehen.)

Um Bings geistesgestörtes Verhalten zu bändigen, kündigte Microsoft an, die Anzahl der Benutzer auf 50 Chatrunden pro Tag und nicht mehr als fünf Chatrunden pro Sitzung zu beschränken. „Ein Turn ist ein Gesprächsaustausch, der sowohl eine Benutzerfrage als auch eine Antwort von Bing enthält“, erklärte das Unternehmen.

Obwohl man sich leicht vorstellen kann, dass Bing eine Persönlichkeit hat, ist der Chatbot nur eine Software, die nicht versteht, was sie sagt.

Es ist darauf trainiert, einen Konversationston anzunehmen, ahmt den menschlichen Dialog nach und kann aus der Bahn geraten, wenn ihm emotional aufgeladene Fragen gestellt werden. Leider kann die KI manchmal auch dann damit beginnen, wenn ihr scheinbar harmlose Fragen gestellt werden.

„Nachdem eine Chat-Sitzung fünf Runden erreicht hat, werden die Leute aufgefordert, ein neues Thema zu beginnen. Am Ende jeder Chat-Sitzung muss der Kontext geklärt werden, damit das Modell nicht durcheinander gerät“, stellte Microsoft klar.

Google fordert seine Mitarbeiter auf, seinen KI-Chatbot Bard für die Websuche zu verbessern, indem von der Software generierte Texte neu geschrieben werden. Der Vizepräsident für Suche des Werberiesen, Prabhakar Raghavan, schickte Berichten zufolge eine E-Mail an die Mitarbeiter und bat sie um Hilfe, um sicherzustellen, dass Bards Antworten korrekt und angemessen sind.

„Das ist eine aufregende Technologie, aber sie steckt noch in den Kinderschuhen“, schrieb er laut CNBC. „Wir fühlen eine große Verantwortung, es richtig zu machen, und Ihre Teilnahme am Dogfood wird dazu beitragen, das Training des Modells zu beschleunigen und seine Belastbarkeit zu testen (ganz zu schweigen davon, dass das Ausprobieren von Bard tatsächlich ziemlich viel Spaß macht!)“

„Bard lernt am besten durch Beispiele. Daher wird es uns sehr dabei helfen, den Modus zu verbessern, wenn wir uns die Zeit nehmen, eine Antwort sorgfältig umzuschreiben“, fügte er hinzu.

CEO Sundar Pichai empfahl den Mitarbeitern, etwa zwei bis vier Stunden ihrer Zeit auf Bard zu verbringen, und merkte an: „Dies wird eine lange Reise für alle im gesamten Feld sein.“ Obwohl große Sprachmodelle wie Bard als revolutionäre Methode zur Suche nach Informationen im Internet angepriesen werden, neigen sie dazu, unzuverlässige Antworten zu generieren und erfordern zum Lernen saubere, von Menschen geschriebene Daten.

Bessere Daten machen diese Modelle nicht perfekt, steigern aber häufig ihre Leistung.

Das EU-KI-Gesetz, das darauf abzielt, die Technologie zu regulieren, um Benutzer vor algorithmischen Schäden und Vorurteilen zu schützen, wird zurückgedrängt, während der Gesetzgeber seine endgültigen Bedingungen aushandelt.

Laut Reuters sollte der Gesetzentwurf den Mitgliedsstaaten zur Abstimmung am Ende des nächsten Monats vorgelegt werden, könnte sich jedoch verzögern, da sich die Beamten nicht auf die Grundprinzipien einigen können. Die Richtlinien müssen streng genug sein, um der mangelnden Transparenz und der Tendenz der KI, voreingenommene Ergebnisse zu liefern, entgegenzuwirken und gleichzeitig den Datenschutz zu schützen – ohne Entwicklung und Investitionen zu unterdrücken.

„Die offensichtliche Spannung besteht hier zwischen der Fokussierung auf die Grundrechte einerseits und denen, die sagen, dass diese zwangsläufig im Widerspruch zur Innovation stehen”, sagte der Europaabgeordnete Sergey Lagodinsky, der die Grünen in Deutschland vertritt. Berichten zufolge fällt es den Gesetzgebern schwer zu entscheiden, welche KI-Anwendungen als „hochriskant“ eingestuft und strengeren Regeln unterliegen sollen.

Es ist nicht klar, wann der Gesetzentwurf in die nächste Gesetzgebungsphase übergehen wird. „Das Dossier ist lang und komplex, die Abgeordneten arbeiten hart daran, eine Einigung über ihr Verhandlungsmandat zu erzielen. Es gibt jedoch keine Frist oder einen Zeitplan für die nächsten Schritte“, sagte ein Abgeordneter.

KI könnte Architekten die Arbeit abnehmen, da Bilderzeugungsmodelle bei der Gestaltung von Gebäuden, Rauminnenräumen und mehr besser werden.

Neil Leach, Professor an der Florida International University und Leiter des Doctor of Design-Programms, warnte Architekten, dass kommerzielle Tools wie DALL-E, Midjourney und Stable Diffusion ihre Arbeitsplätze gefährden.

Menschen können problemlos realistische Darstellungen von Häusern, Gebäuden und Räumen nur mit Textbeschreibungen erstellen, wodurch die Notwendigkeit verringert wird, Architekten mit dem Zeichnen und Modellieren ihrer Entwürfe zu beauftragen. Leach sagte, dass diese Tools Architekten zwar produktiver machen, aber wenn die Arbeiter mehr Arbeit in kürzerer Zeit erledigen können, stellen die Unternehmen dann trotzdem genauso viele Leute ein?

„Oft wird uns vorgegaukelt, Gerüchte über den Tod des Architekten seien stark übertrieben. Die einzigartigen schöpferischen Kräfte des menschlichen Geistes, so heißt es in der Erzählung, werden fortbestehen. Da bin ich jedoch anderer Meinung. Es gibt Anzeichen dafür, dass KI sich entwickelt.“ nicht nur gut, sondern erschreckend gut, bis zu dem Punkt, dass es unsere eigenen Grenzen als Menschen offenlegt und unsere Jobs als Architekten zweifellos gefährdet“, schrieb er in einem Meinungsbeitrag für das Designmagazin Dezeen.

Leach riet Architekten, sich diese KI-Tools anzueignen und zu lernen, wie sie sich als „Superuser“ an die Weiterentwicklung ihres Berufs anpassen können. ®

Senden Sie uns Neuigkeiten