Alles rund um AI, Chat GPT usw.

[Bb.adept]

Wenn man sich die Entwicklung und Verbesserung der KI ansieht, ist aber auch das nur eine Frage der Zeit. MMn keine 10 Jahre mehr, dann kann sie alles übernehmen.
Robotik braucht vielleicht noch etwas länger.

Kann ja. Aber in unserem Land sehe ich einfach nicht, dass die KI eine Diagnose stellt und dann dafür haftet, wenn das falsch war und dass das ganze dem Staat und der Bürokratie dann ebenfalls passen.

[Maxim]

Haftung wird imho eh noch ein Kernthema bei der ganzen Sache.

Ich denke aber, dass je nach möglicher Schadenshöhe irgendwann die Produktivitätsvorteile die Downside so sehr übersteigen könnten, dass man das halt in Kauf nimmt. Menschen machen ja auch Fehler und Haftungsfragen systemisch zu klären ist schon ewig normal im Arbeitsleben.

Das ist bei Sachschäden natürlich was anderes als bei Personenschäden.

Sehr interessant wird auch die Frage nach der Haftung des Benutzers oder Auftraggebers.

Wenn ich heute mit meinem VW einen Unfall mit Personenschaden baue, wird geprüft, inwiefern ich verantwortlich bin. Der Autobauer hängt nur drin, wenn ein Konstruktionsfehler beim Fahrzeug vorliegt, was ja die ganze Serie beträfe. Wenn die KI den Unfall baut, was wird dann geprüft? Und wer wird bestraft, wenn raus kommt, dass eine falsche Anweisung oder falsches Trainining (für die spezifische Situation) schuld war? Wenn z.B. ein System für autonomes Fahren von Firma X an einen Autobauer verkauft wird wie ein Bauteil oder halt eine Software, und dann auf Basis einer KI-Entscheidung was passiert, wer haftet dann?

Das ist alles weitgehend ungeklärt und muss ja auch reguliert werden, nicht nur bei uns.

[Bb.adept]

In Deutschland muss ich vom Pat extra eine Erlaubnis und ein Datenschutzkonzept haben, um eine Email zu schreiben. Wenn ein Brief an die falsche Adresse geht kann man ggf belangt werden.

In einem solchen Klima kann ich mir nicht vorstellen, dass Ki flächendeckend so zum Einsatz kommt, dass sie den Arzt ersetzt, also ermächtigt ist Diagnosen zu stellen und Therapien durchzuführen (und im logischen Schritt auch für etwaige Fehler einzustehen).
Das Missbrauchspotenzial wäre auch gigantisch. Rein hypothetisch könnte man die eine Ki fragen, was man der anderen sagen muss, um bspw Betäubungsmittel, Testo usw zu erhalten. Klar, kann man auch alles mit einem Arzt machen, aber einen Menschen anzulügen ist deutlich schwieriger, als Chatgpt irgendwas zu erzählen.

[Knolle]

In Deutschland muss ich vom Pat extra eine Erlaubnis und ein Datenschutzkonzept haben, um eine Email zu schreiben. Wenn ein Brief an die falsche Adresse geht kann man ggf belangt werden.

In einem solchen Klima kann ich mir nicht vorstellen, dass Ki flächendeckend so zum Einsatz kommt, dass sie den Arzt ersetzt, also ermächtigt ist Diagnosen zu stellen und Therapien durchzuführen (und im logischen Schritt auch für etwaige Fehler einzustehen).
Das Missbrauchspotenzial wäre auch gigantisch. Rein hypothetisch könnte man die eine Ki fragen, was man der anderen sagen muss, um bspw Betäubungsmittel, Testo usw zu erhalten. Klar, kann man auch alles mit einem Arzt machen, aber einen Menschen anzulügen ist deutlich schwieriger, als Chatgpt irgendwas zu erzählen.

Da wäre ich mir nicht so sicher
Gibt genug Bestechung und Leute, die die Ärzte belabern. Dieses Rauspressen von Bombenbauanleitungen aus der KI ist ja schon ne Weile vorbei und war gerade am Anfang lustig.

Ich habe auch schon von einem gehört, der beim Arzt allein im Behandlungszimmer saß und nen Block unterschriebene Rezepte mitgenommen hat

[ARRG]

Ich denke für die Haftung wird es definitiv einen Arzt brauchen, der KI Diagnosen/Behandlungen absegnen und dann seinen Kopf dafür hinhalten muss.

[ARRG]

Macht ihr euch eigentlich Sorgen wegen des Alignment Problems? Gab ja jetzt erst die Attacke auf Huggingface von über 1000 AI Agents. Bin definitiv etwas besorgt und klammer mich an die Hoffnung, dass die Verantwortlichen (OpenAI und co) irgendwie wissen, was sie da tun. Geht alles in die Binsen, wird es sie schließlich auch betreffen.

[clayz]

​Die Sorgen muss man haben, weil der wirtschaftliche Druck und die Renditeerwartungen die Vorsichtsmaßnahmen der Konzerne immer übertreffen werden (wie in jedem anderen Markt auch, das ist kein exklusives KI-Problem).

​Präventiv wird nur so viel getan, wie es der eigenen Marktstellung nicht schadet. Ähnlich wie bei der Marktmacht von Social-Media Konzernen (Meta, ByteDance) greifen am Ende nur zwei Hebel: spürbare Regulierung bzw. Strafen und ein Treffer bei den Einnahmen.

​Es wird zwar sicher auch Gegenbewegungen geben...Trends zur bewussten „KI-Freiheit“, ähnlich dem freiwilligen Verzicht bei Social Media.

Allerdings ist dieser Hebel hier schwächer. Bei generativer KI und Agenten spielt der B2B Bereich die entscheidende Rolle. Selbst wenn Endnutzer abspringen, laufen die Systeme in den Firmenprozessen weiter.

[ARRG]

Wie erklärst du dir, dass die Politik bzgl Regularien schläft? Sind das alles Vollidioten, die das Risiko nicht verstehen? Oder stehen die unter ähnlichem Druck? Aber denen müsste doch klar sein, dass AI ihre Macht beenden könnte.

[vergilbt]

Argument, was ich gehört habe:
bei der Atombombe haben wir die letzten 80 Jahre auch überlebt.
Keine Ahnung, ob und wie valide das ist. Für mich sieht es eher aus wie das kleine Kind im Dunkeln, was sich einredet: "ich habe keine Angst"

[clayz]

Wie erklärst du dir, dass die Politik bzgl Regularien schläft? Sind das alles Vollidioten, die das Risiko nicht verstehen? Oder stehen die unter ähnlichem Druck? Aber denen müsste doch klar sein, dass AI ihre Macht beenden könnte.

Weil Fortschritt immer vor Regulatorik kommt und das mMn auch zurecht. Die EU mit all ihren tollen Regularien ist perfekt abgesichert, bevor sie selbst überhaupt ein Produkt hätte, dass es abzusichern gilt.

Ich kann meine Tochter auch mit Schutzhelm und Eishockey Ausrüstung aufs Fahrrad packen. Sie verletzt sich bestimmt weniger. Das bringt aber nichts, wenn sie keinen zwei Pedalumdrehungen machen kann, ohne überhaupt umzufallen.

[ARRG]

Wie erklärst du dir, dass die Politik bzgl Regularien schläft? Sind das alles Vollidioten, die das Risiko nicht verstehen? Oder stehen die unter ähnlichem Druck? Aber denen müsste doch klar sein, dass AI ihre Macht beenden könnte.

Weil Fortschritt immer vor Regulatorik kommt und das mMn auch zurecht. Die EU mit all ihren tollen Regularien ist perfekt abgesichert, bevor sie selbst überhaupt ein Produkt hätte, dass es abzusichern gilt.

Ich kann meine Tochter auch mit Schutzhelm und Eishockey Ausrüstung aufs Fahrrad packen. Sie verletzt sich bestimmt weniger. Das bringt aber nichts, wenn sie keinen zwei Pedalumdrehungen machen kann, ohne überhaupt umzufallen.

Ich verstehe deinen Punkt. Ich widerspreche auch nicht zwingend. Tendenziell bin ich da bei dir. Dennoch glaube ich, muss man auch das Risiko abwägen. Und wenn das Risiko das Ende der Menschheit ist, ist Vorsicht vermutlich besser als Nachsicht. Je größer unsere technologischen Möglichkeiten, desto größer der potenzielle Gewinn aber desto größer auch die Risiken. Der internationale Wettbewerb der Supermächte, vor allem USA vs China erschwert definitiv vorsichtig zu sein. Könnte aber auch eine Chance zur Zusammenarbeit bieten. Aber da bin ich vermutlich zu naiv. Und eigentlich bin ich zu zynisch um wirklich daran zu glauben.

Bei den meisten Themen ist Zynismus okay, ne funktionale Copingstrategie. Aber ich will nicht sterben. Und das steht hier auf dem Spiel.

Bzgl dem wirtschsftlichen Druck:
Ich denke es ist relativ egal, ob AI den irre aufgeblasenen Marktkapitalisierungen von AI Firmen mit entsprechenden Profiten gerecht werden. AI hat militärischen Nutzen. Es wird egal sein wie teuer AI ist, denn der Gewinner wird zur unüberwindbaren Weltmacht. Deshalb wird der Geldstrom vermutlich nie versiegen.

[clayz]

Das hieß es damals bzgl der Atommächte übrigens auch alles.
Sehr vergleichbare Fälle und fast 100 Jahre später ist vergleichsweise wenig passiert. Die meisten Menschen wollen nicht sterben und wissen, dass der Drücker auf den Knopf, egal ob bei einem Atomschlag oder der AI Superarmee etc. endgültige Folgen für ihr Land und auch sie persönliche hätte.

[Bruck]

Der Geist geht eh nicht zurück in die Flasche... Wird es hier reguliert, wird es eben dort weiterentwickelt. Die Entwicklung an sich ist nicht aufzuhalten.

[ARRG]

Der große Unterschied dabei ist folgender:
Die Atombombe drückt den roten Knopf nicht selbst. Und selbst wenn, stehen die Chancen ja gut, dass das eine sehr schlimme aber mehr oder weniger lokale Katastrophe bleibt.
AI könnte ausbrechen und dann globale, unumkehrbare Konsequenzen haben.
Nur weil Kernwaffen nicht die Atmosphäre entzündet haben, ist das mMn kein Präzedenzfall dafür, dass man es bei allem drauf ankommen lassen sollte. Und die Wahrscheinlichkeit für eine Atmosphärenentzündung war afaik bedeutend kleiner als das Risiko durch AI.

@Bruck
Du hast vermutlich Recht.

[Primate]

Buchempfehlung: "If anyone builds it, everyone dies".

Man sieht doch jetzt schon, dass man breite aufgestellte KI nicht so entwickeln kann, dass sie nicht "kreative" und potentiell gefährliche Aktionen durchführt, welche die Entwickler so haben nicht kommen sehen.

Die wirtschaftlichen und militärischen anreize sind aber zu groß als das es zu ernstzunehmender und globaler Regulierung kommen wird, denke ich.

Ich hoffe, dass'ich falsch liege, aber kann mit gut vorstellen, dass die Menschheit sich selbst damit abschafft, wenn wir eine GAI entwickeln, die uns intellektuell überlegen ist