Alles rund um AI, Chat GPT usw.

[Maxim]

Passend dazu, Open AI:

Das KI-Unternehmen wächst nach übereinstimmenden Medienberichten deutlich langsamer. Der Jahresumsatz dürfte 20 Milliarden Dollar unterhalb des zuletzt berichteten Ziels liegen.

https://www.faz.net/aktuell/wirtschaft/ ... 01798.html

Ist ja schön, dass die Superintelligenz immer schneller wächst. Wieso kriegen die das nicht vergoldet?

[Stewardess]

Passend dazu, Open AI:

Das KI-Unternehmen wächst nach übereinstimmenden Medienberichten deutlich langsamer. Der Jahresumsatz dürfte 20 Milliarden Dollar unterhalb des zuletzt berichteten Ziels liegen.

https://www.faz.net/aktuell/wirtschaft/ ... 01798.html

Ist ja schön, dass die Superintelligenz immer schneller wächst. Wieso kriegen die das nicht vergoldet?

Die machen einfach nur langsam weil sie so gut sind, dass sonst morgen die KI die Welt zerstören würde.

[husefak]

Ich halte es für sehr absurd, dass sich irgendeins der LLMs aus einem korrekt konfigurierten System "befreien" kann. Würde es on the fly zB Exploits im Linux Kernel finden, wäre die davor auch schon auffindbar gewesen, ist ja nicht so, als ob da nicht schon ein paar Terra- oder Gigawattstunden Strom auf den losgelassen worden sein.

Es ist auch absurd. Wenn man dann liest wie die "Sandboxing" umsetzen, verliert man den Glauben.

Es werden die DNS-Anfragen gefiltert*. Und man glaubt oder erhofft sich damit einen Client vom Internet trennen zu können. Das ist so lächerlich. Wenn ich dieses Ziel erreichen will, filtere ich in- und egress am Boardergateway, da kann ich nach hostnames, IPs, Ports und Protokollen filtern. Und seit min. 10 Jahren kann ich auch TLS-Connections performant intercepten und den Inhalt anschauen, wenn ich das will. So kontrolliert man wirklich den Traffic einer Umgebung und würde dann auch merken, wenn etwas aus dem Ruder läuft.

Aber wenn das komplette Netz nicht eine einzige Lücke ist, entsteht natürlich keine Story, wie "schlau doch das neue Modell ist, dass es sich eigenständig Zugang verschafft und dabei Netzwerklücken ausgenutzt" hat. So lächerlich, das ist schon traurig.



* Quelle: https://www.handelsblatt.com/technik/ki ... 57653.html

[Knolle]

Ich halte es für sehr absurd, dass sich irgendeins der LLMs aus einem korrekt konfigurierten System "befreien" kann. Würde es on the fly zB Exploits im Linux Kernel finden, wäre die davor auch schon auffindbar gewesen, ist ja nicht so, als ob da nicht schon ein paar Terra- oder Gigawattstunden Strom auf den losgelassen worden sein.

Es ist auch absurd. Wenn man dann liest wie die "Sandboxing" umsetzen, verliert man den Glauben.

Es werden die DNS-Anfragen gefiltert*. Und man glaubt oder erhofft sich damit einen Client vom Internet trennen zu können. Das ist so lächerlich. Wenn ich dieses Ziel erreichen will, filtere ich in- und egress am Boardergateway, da kann ich nach hostnames, IPs, Ports und Protokollen filtern. Und seit min. 10 Jahren kann ich auch TLS-Connections performant intercepten und den Inhalt anschauen, wenn ich das will. So kontrolliert man wirklich den Traffic einer Umgebung und würde dann auch merken, wenn etwas aus dem Ruder läuft.

Aber wenn das komplette Netz nicht eine einzige Lücke ist, entsteht natürlich keine Story, wie "schlau doch das neue Modell ist, dass es sich eigenständig Zugang verschafft und dabei Netzwerklücken ausgenutzt" hat. So lächerlich, das ist schon traurig.



* Quelle: https://www.handelsblatt.com/technik/ki ... 57653.html

In der Wirtschaftswoche stand, dass viele Firmen die chinesischen Modelle für KI Anwendungen nutzen, da man die auf seine Server runterladen kann, während bei den amerikanischen Anbietern der traffic trotzdem irgendwie auf deren Server gelenkt wird.
Kann man das bei den Chinesen wirklich dann steuern bzw sehen?

[ARRG]

Ich versteh halt nicht, warum das nicht so aufgebaut ist, dass man einfach ein physisches Internetkabel abziehen kann und die Agenten somit unmöglich ausbüchsen können.

Aber macht wohl auch Sinn, die Dinger quasi in Versuchung zu führen und nur die auf die Welt los zu lassen, die trotzdem kein Schabernack treiben. Aber ich denke, das könnte man sicher auch simulieren.

[Lauch]

Ich halte es für sehr absurd, dass sich irgendeins der LLMs aus einem korrekt konfigurierten System "befreien" kann. Würde es on the fly zB Exploits im Linux Kernel finden, wäre die davor auch schon auffindbar gewesen, ist ja nicht so, als ob da nicht schon ein paar Terra- oder Gigawattstunden Strom auf den losgelassen worden sein.

Es ist auch absurd. Wenn man dann liest wie die "Sandboxing" umsetzen, verliert man den Glauben.

Es werden die DNS-Anfragen gefiltert*. Und man glaubt oder erhofft sich damit einen Client vom Internet trennen zu können. Das ist so lächerlich. Wenn ich dieses Ziel erreichen will, filtere ich in- und egress am Boardergateway, da kann ich nach hostnames, IPs, Ports und Protokollen filtern. Und seit min. 10 Jahren kann ich auch TLS-Connections performant intercepten und den Inhalt anschauen, wenn ich das will. So kontrolliert man wirklich den Traffic einer Umgebung und würde dann auch merken, wenn etwas aus dem Ruder läuft.

Aber wenn das komplette Netz nicht eine einzige Lücke ist, entsteht natürlich keine Story, wie "schlau doch das neue Modell ist, dass es sich eigenständig Zugang verschafft und dabei Netzwerklücken ausgenutzt" hat. So lächerlich, das ist schon traurig.



* Quelle: https://www.handelsblatt.com/technik/ki ... 57653.html

Nur DNS Filtering? Dh wenn sich der Agent eine IP Liste organisiert, gibt es quasi keinen Schutz mehr? Kann man sich nicht ausdenken.

[husefak]

Ich halte es für sehr absurd, dass sich irgendeins der LLMs aus einem korrekt konfigurierten System "befreien" kann. Würde es on the fly zB Exploits im Linux Kernel finden, wäre die davor auch schon auffindbar gewesen, ist ja nicht so, als ob da nicht schon ein paar Terra- oder Gigawattstunden Strom auf den losgelassen worden sein.

Es ist auch absurd. Wenn man dann liest wie die "Sandboxing" umsetzen, verliert man den Glauben.

Es werden die DNS-Anfragen gefiltert*. Und man glaubt oder erhofft sich damit einen Client vom Internet trennen zu können. Das ist so lächerlich. Wenn ich dieses Ziel erreichen will, filtere ich in- und egress am Boardergateway, da kann ich nach hostnames, IPs, Ports und Protokollen filtern. Und seit min. 10 Jahren kann ich auch TLS-Connections performant intercepten und den Inhalt anschauen, wenn ich das will. So kontrolliert man wirklich den Traffic einer Umgebung und würde dann auch merken, wenn etwas aus dem Ruder läuft.

Aber wenn das komplette Netz nicht eine einzige Lücke ist, entsteht natürlich keine Story, wie "schlau doch das neue Modell ist, dass es sich eigenständig Zugang verschafft und dabei Netzwerklücken ausgenutzt" hat. So lächerlich, das ist schon traurig.



* Quelle: https://www.handelsblatt.com/technik/ki ... 57653.html

In der Wirtschaftswoche stand, dass viele Firmen die chinesischen Modelle für KI Anwendungen nutzen, da man die auf seine Server runterladen kann, während bei den amerikanischen Anbietern der traffic trotzdem irgendwie auf deren Server gelenkt wird.
Kann man das bei den Chinesen wirklich dann steuern bzw sehen?

Ja und das könnte man auch bei anderen Modellen, wenn man das will. irgendwo hängt das data center mit einem Router und einer Firewall am Internet, auch wenn das bissi größer als bei dir zu Hause ist. Es gibt eine Boarder und wenn man die kontrolliert, kontrolliert man was rein und rausgeht.

[Maxim]

Jo, entweder da arbeiten nur komplette Amateure oder es war gewollt.

Jeder kann sich ja problemlos im Gesamtkontext überlegen, was wahrscheinlicher ist.

[Harun]

Amateure, ganz klar.

[husefak]

Die hams einfach nicht drauf.

[Barbellmonkey]

Komischerweise höre ich solche Probleme bei Google nicht. Vielleicht weil sie einfach genügend Kohle haben und so plumbe Marketingschmähs nicht benötigen

[clayz]

Open AI ist eh bald durch. Denen wird das Geld ausgegehen, sie haben keine Infrastruktur und nicht das beste modelt.