AI

[_nicolas]

More:

https://web.archive.org/web/20231121225 ... e7e242f858

Il a l’air d’être un type bien le Sam…

[ze_shark]

11/21 ? il y a donc une deuxième lettre ?

[_nicolas]

Il semblerait. De la part d’anciens employés et diffusée par… Elon :

https://cybernews.com/news/former-opena ... am-altman/

[ze_shark]

“With Satya’s support”. On attend avec impatience la composition du nouveau board. Microsoft ne devrait pas manquer à l’appel cette fois-ci, JC.

Ahem ...

https://www.theinformation.com/articles ... board-seat

[_nicolas]

Ben voilà. Joué… perdu !

[_nicolas]

Charlie Munger est mort à l’âge respectable de 99 ans. Pour celles et ceux qui ont un peu plus d’une heure à dispo, voici qui ne sera pas du temps perdu :

[ze_shark]

Ben voilà. Joué… perdu !

C'est effectivement assez difficile à comprendre. J'ai deux théories:
- Microsoft s'est fait avoir quand ils ont investi, forcés de signer à la va-vite (on serait surpris à quel point un truc à 10B$ peut être plus bâclé qu'un round de 100m$), et le shareholder agreement ne leur donne pas de siège au board. Qqun d'autre était près à signer à ces conditions, ce genre d'âneries.
- Microsoft ne voulait vraiment, vraiment pas être au board pour maximiser leur séparation. Vraiment tiré par les cheveux.

[ze_shark]

Compromis. Non voting board seat. Au moins Nadella ne se fera plus surprendre.

https://www.cnbc.com/2023/11/29/microso ... enai-.html

[_nicolas]

Compromis mais en même temps Altman explique : “I’m excited that our new board will include them as a non-voting observer”. “Observer”, c’est le détail qui tue. Comment être excité par quelqu’un qui ferme sa gueule ? Dans les boards, les observateurs sont 1) ceux qui l’ouvrent le plus, 2) ceux qui ont le plus d’influence, la position étant un puissant levier d’emprise puisqu’ils peuvent raconter tout ce qu’ils veulent, il n’y a pas la responsabilité du vote qui suit. Il est vraiment malin le Satya !

Sinon, j’ai découvert un tout petit peu de ce que raconte la jeune Helen Toner sur les risques de l’AI. Pour qui s’y intéresse c’est passionnant.

[ze_shark]

https://pca.st/episode/33b026a3-85ff-46 ... dff96c0a4e

La narration des coulisses de cette affairette est intéressante.

[ze_shark]

https://www.nytimes.com/2023/12/03/tech ... =url-share

(Article cadeau).

La scène est surréaliste.

As the discussion stretched into the chilly hours, it grew intense, and some of the more than 30 partyers gathered closer to listen. Mr. Page, hampered for more than a decade by an unusual ailment in his vocal cords, described his vision of a digital utopia in a whisper. Humans would eventually merge with artificially intelligent machines, he said. One day there would be many kinds of intelligence competing for resources, and the best would win.

If that happens, Mr. Musk said, we’re doomed. The machines will destroy humanity.

With a rasp of frustration, Mr. Page insisted his utopia should be pursued. Finally he called Mr. Musk a “specieist,” a person who favors humans over the digital life-forms of the future.

That insult, Mr. Musk said later, was “the last straw.”

Musk semble depuis avoir conclu que l'AI ne représente aucun danger tant que c'est LUI qui en a le contrôle, dans son infinie bénévolence.
Les Page, Thiel, Altman ou Andreesen (SBF, lui, ne pourra pas mettre en oeuvre ses délires apocalyptiques) semblent également assez à l'aise avec un fatalisme béat.

[ze_shark]

La profondeur du raisonnement ...

Du même article du NYT:

Mr. Musk explained that his plan was to colonize Mars to escape overpopulation and other dangers on Earth. Dr. Hassabis replied that the plan would work — so long as superintelligent machines didn’t follow and destroy humanity on Mars, too.

Mr. Musk was speechless. He hadn’t thought about that particular danger. Mr. Musk soon invested in DeepMind alongside Mr. Thiel so he could be closer to the creation of this technology.

[asylum]

C'est ça de faire des HAZOPs sous fentanyl.

[_nicolas]

Google lance Gemini :

[vravolta]

Bon, l'AI, c'est pas encore ca: on vient de gauler une boite qui a soumissionné dans un de nos appels d'offre et qui avait visiblement demandé à ChatGPT d'y répondre à sa place. Ce n'est pas en soi interdit, mais ca mène à des réponses qui ne tiennent pas la route en termes de cohérence, un peu à l'image de l'avocat qui avait demandé à ChatGPT de lui trouver la jurisprudence sur un sujet et qui avait soumis le résultat devant le juge: grand moment de solitude...