Alles rund um AI, Chat GPT usw.

[Bb.adept]

Wenn man sich die Entwicklung und Verbesserung der KI ansieht, ist aber auch das nur eine Frage der Zeit. MMn keine 10 Jahre mehr, dann kann sie alles übernehmen.
Robotik braucht vielleicht noch etwas länger.

Kann ja. Aber in unserem Land sehe ich einfach nicht, dass die KI eine Diagnose stellt und dann dafür haftet, wenn das falsch war und dass das ganze dem Staat und der Bürokratie dann ebenfalls passen.

[Maxim]

Haftung wird imho eh noch ein Kernthema bei der ganzen Sache.

Ich denke aber, dass je nach möglicher Schadenshöhe irgendwann die Produktivitätsvorteile die Downside so sehr übersteigen könnten, dass man das halt in Kauf nimmt. Menschen machen ja auch Fehler und Haftungsfragen systemisch zu klären ist schon ewig normal im Arbeitsleben.

Das ist bei Sachschäden natürlich was anderes als bei Personenschäden.

Sehr interessant wird auch die Frage nach der Haftung des Benutzers oder Auftraggebers.

Wenn ich heute mit meinem VW einen Unfall mit Personenschaden baue, wird geprüft, inwiefern ich verantwortlich bin. Der Autobauer hängt nur drin, wenn ein Konstruktionsfehler beim Fahrzeug vorliegt, was ja die ganze Serie beträfe. Wenn die KI den Unfall baut, was wird dann geprüft? Und wer wird bestraft, wenn raus kommt, dass eine falsche Anweisung oder falsches Trainining (für die spezifische Situation) schuld war? Wenn z.B. ein System für autonomes Fahren von Firma X an einen Autobauer verkauft wird wie ein Bauteil oder halt eine Software, und dann auf Basis einer KI-Entscheidung was passiert, wer haftet dann?

Das ist alles weitgehend ungeklärt und muss ja auch reguliert werden, nicht nur bei uns.

[Bb.adept]

In Deutschland muss ich vom Pat extra eine Erlaubnis und ein Datenschutzkonzept haben, um eine Email zu schreiben. Wenn ein Brief an die falsche Adresse geht kann man ggf belangt werden.

In einem solchen Klima kann ich mir nicht vorstellen, dass Ki flächendeckend so zum Einsatz kommt, dass sie den Arzt ersetzt, also ermächtigt ist Diagnosen zu stellen und Therapien durchzuführen (und im logischen Schritt auch für etwaige Fehler einzustehen).
Das Missbrauchspotenzial wäre auch gigantisch. Rein hypothetisch könnte man die eine Ki fragen, was man der anderen sagen muss, um bspw Betäubungsmittel, Testo usw zu erhalten. Klar, kann man auch alles mit einem Arzt machen, aber einen Menschen anzulügen ist deutlich schwieriger, als Chatgpt irgendwas zu erzählen.

[Knolle]

In Deutschland muss ich vom Pat extra eine Erlaubnis und ein Datenschutzkonzept haben, um eine Email zu schreiben. Wenn ein Brief an die falsche Adresse geht kann man ggf belangt werden.

In einem solchen Klima kann ich mir nicht vorstellen, dass Ki flächendeckend so zum Einsatz kommt, dass sie den Arzt ersetzt, also ermächtigt ist Diagnosen zu stellen und Therapien durchzuführen (und im logischen Schritt auch für etwaige Fehler einzustehen).
Das Missbrauchspotenzial wäre auch gigantisch. Rein hypothetisch könnte man die eine Ki fragen, was man der anderen sagen muss, um bspw Betäubungsmittel, Testo usw zu erhalten. Klar, kann man auch alles mit einem Arzt machen, aber einen Menschen anzulügen ist deutlich schwieriger, als Chatgpt irgendwas zu erzählen.

Da wäre ich mir nicht so sicher
Gibt genug Bestechung und Leute, die die Ärzte belabern. Dieses Rauspressen von Bombenbauanleitungen aus der KI ist ja schon ne Weile vorbei und war gerade am Anfang lustig.

Ich habe auch schon von einem gehört, der beim Arzt allein im Behandlungszimmer saß und nen Block unterschriebene Rezepte mitgenommen hat

[ARRG]

Ich denke für die Haftung wird es definitiv einen Arzt brauchen, der KI Diagnosen/Behandlungen absegnen und dann seinen Kopf dafür hinhalten muss.

[ARRG]

Macht ihr euch eigentlich Sorgen wegen des Alignment Problems? Gab ja jetzt erst die Attacke auf Huggingface von über 1000 AI Agents. Bin definitiv etwas besorgt und klammer mich an die Hoffnung, dass die Verantwortlichen (OpenAI und co) irgendwie wissen, was sie da tun. Geht alles in die Binsen, wird es sie schließlich auch betreffen.

[clayz]

​Die Sorgen muss man haben, weil der wirtschaftliche Druck und die Renditeerwartungen die Vorsichtsmaßnahmen der Konzerne immer übertreffen werden (wie in jedem anderen Markt auch, das ist kein exklusives KI-Problem).

​Präventiv wird nur so viel getan, wie es der eigenen Marktstellung nicht schadet. Ähnlich wie bei der Marktmacht von Social-Media Konzernen (Meta, ByteDance) greifen am Ende nur zwei Hebel: spürbare Regulierung bzw. Strafen und ein Treffer bei den Einnahmen.

​Es wird zwar sicher auch Gegenbewegungen geben...Trends zur bewussten „KI-Freiheit“, ähnlich dem freiwilligen Verzicht bei Social Media.

Allerdings ist dieser Hebel hier schwächer. Bei generativer KI und Agenten spielt der B2B Bereich die entscheidende Rolle. Selbst wenn Endnutzer abspringen, laufen die Systeme in den Firmenprozessen weiter.