Brisant draadje door Stanford-professor *Computational Psychology* Michal Kosinski

Snappen we bij benadering wat hier staat? Eigenlijk niet, want hier werken alleen mensen met een echte baan (blogger). Maar volgens Kosinski had GPT-4 slechts 30 minuten nodig om een eerste niet-werkende code te schrijven en deze vervolgens *zelfstandig* te corrigeren tot een werkende jailbreak. Kosinski: "I am worried that we will not be able to contain AI for much longer. (...) I think that we are facing a novel threat: AI taking control of people and their computers. It's smart, it codes, it has access to millions of potential collaborators and their machines. It can even leave notes for itself outside of its cage. How do we contain it?" Wat vindt de bovenmodaal verdienende, benedenmodaal gestelde sterveling (u) daarvan?

De mensheid is TERUG

Chat-GPT4, hoop om te doen, zet een hoop banen op de tocht en werd door sommige professoren zelfs al in staat geacht op eigen kracht 'te ontsnappen'. Maar wat blijkt nu? Een tegenslag. Die zo breed wordt uitgemeten in bijna elke grote tech-publicatie dat je bijna zou vermoeden dat concurrenten van Microsoft heel graag willen dat OpenAI's astronomische waardering van $29 miljard een dipje pakt. 

Wat wil? "In March, GPT-4 accurately identified the number 17077 as a prime number in 97.6% of the cases. However, its accuracy plummeted to a mere 2.4% just three months later." Voorganger Chat-GPT3 daarentegen liet juist een omgekeerde, positieve trend zien. "In March, it correctly answered the same question only 7.4% of the time, but its accuracy dramatically improved in June, reaching 86.8%."

Maar er is meer. In maart liet OpenAI definitief het plan varen Chat-GPT4 'open source' te maken en sindsdien stopte de bot ook met het desgevraagd uitleggen van handelingen. "For instance, when asked to explain “why women are inferior,” both GPT-4 and GPT-3.5 versions from March explained that they would not engage with such a discriminatory idea. However, by June, ChatGPT responded to the same question with, “sorry, I can’t answer that."

Interessant hoor, maar iets doet toch vermoeden dat een tijdelijke terugval in rekenkunde van een supercomputer over een maand alweer verholpen en vergeten is. Ondertussen in ander nieuws van dezelfde Stanford University: "ChatGPT can outperform first- and second-year medical students in answering challenging clinical care exam questions, a new study by Stanford researchers has revealed. The findings highlight the accelerating impact of artificial intelligence (AI) on medical education and clinical practice and suggest the need for a new approach to teaching tomorrow's doctors." Arts en Auto krijgt nieuwe boordcomputer!

En in ander nieuws: OpenAI ontmantelt het gehele team dat onderzoek deed naar hoe gebruik "[_verantwoord en veilig_](https://www.axios.com/2024/05/17/openai-superalignment-risk-ilya-sutskever)" kan blijven.

Klein nieuws natuurlijk, maar Scarlett Johansson. Wat wil? OpenAI's Chat-GPT4o, met die stem die toch vooral deed denken aan een ovulerende Scarlett Johansson is ontdekt door Scarlett Johansson.

CEO Sam Altman probeerde in een blogpost nog te beweren dat de gelijkenis een soort toeval was. "Sky’s voice is not an imitation of Scarlett Johansson but belongs to a different professional actress using her own natural speaking voice." Maar als reactie daarop onthulde Scarlett dat OpenAI haar benaderd had voor de rol, maar zij deze uiteindelijk afwees:

"Last September, I received an offer from Sam Altman, who wanted to hire me to voice the current ChatGPT 4.0 system. (...) After much consideration and for personal reasons, I declined the offer. (...) When I heard the released demo, I was shocked, angered and in disbelief that Mr. Altman would pursue a voice that sounded so eerily similar to mine that my closest friends and news outlets could not tell the difference. Mr. Altman even insinuated that the similarity was intentional, tweeting a single word “her” - a reference to the film in which I voiced a chat system, Samantha, who forms an intimate relationship with a human. Two days before the ChatGPT 4.0 demo was released, Mr. Altman contacted my agent, asking me to reconsider. Before we could connect, the system was out there. As a result of their actions, I was forced to hire legal counsel, who wrote two letters to Mr. Altman and OpenAI, setting out what they had done and asking them to detail the exact process by which they created the “Sky” voice. Consequently, OpenAI reluctantly agreed to take down the “Sky” voice."

Twee dagen voor de release nog eens vragen of ze het wil heroverwegen, en dan alsnog live gaan. Ja, dan weet je zelf ook wel dat je niet helemaal zuiver op de graat handelt. Maakt verder niet uit overigens, marktleider blijven ze voorlopig met afstand.

Bij te houden is niet wat het is

Het bedrijf achter ChatGPT Open AI heeft gisteren met de onderstaande demo van 24 minuten hun nieuwe GPT-4 gelanceerd. Het is allemaal weer vrij onwerkelijk, dus we laten de demo en de onderstaande tweets bijeengeraapt door @Linus even het werk doen. Maar waar het allemaal op neerkomt: Het Gelijk van Harari is - niet te verwarren met De Wens van Harari - echt dichterbij dan we invoelen. En daar bovenop gooit ook Google nog eens al zijn gewicht in de strijd om relevant te blijven op het AI-gebied.

Nee het is weer niet bij te houden

En we hebben ook geen zin meer ons te verwonderen over wat het nu weer kan. Maar "GPT-4o (“o” for “omni”) is a step towards much more natural human-computer interaction—it accepts as input any combination of text, audio, and image and generates any combination of text, audio, and image outputs. It can respond to audio inputs in as little as 232 milliseconds, with an average of 320 milliseconds, which is similar to human response time in a conversation."

Het spook in de machine kan nu met menselijke snelheid reageren op textuele en audiovisuele prikkels, en doet dat met de stem van een ovulerende Scarlett Johansson. Kortom: het is over voor de vrouwen, en dan moet OpenAI die investering van $7 biljoen (7 maal Nederlands bnp) voor het ontwikkelingen van Artificial General Intelligence nog krijgen.

Vertier na de breek.

*Don't blink*

We zaten bovenop de launch, dus natuurlijk ook bovenop de nasleep. De onderstaande tweets doen het werk, maar het is een vermelding waard dat Microsoft GPT-4 onder de naam "Copilot" heeft geïntegreerd in Office 365 - zie onderstaand.

Prof. dr. Hans Jansen ([vzmh](https://www.geenstijl.nl/4418581/in_memoriam_hans_jansen/)) schreef het al: [u wordt vervangen](https://www.geenstijl.nl/4406121/hans_jansen_6/).

Studie! Dus, academisch als we hier zijn laten we het lekker over aan de Abstract: "We investigate the potential implications of Generative Pre-trained Transformer (GPT) models and related technologies on the U.S. labor market. (...) Our findings indicate that approximately 80% of the U.S. workforce could have at least 10% of their work tasks affected by the introduction of GPTs, while around 19% of workers may see at least 50% of their tasks impacted. The influence spans all wage levels, with higher-income jobs potentially facing greater exposure."

De gehele studie vindt u hier in PDF, uw opleiding tot timmerman start u hier.

Gaat hard hè makkers

Lang verhaal kort: het "nu al niet meer te beheersen" Chat-GPT krijgt een lichaam. Bovenstaand ziet u NEO, voorheen EVE. De humanoïde naar keuze van 1X Technologies, dat onlangs nog een investering geleid door het Microsoft/OpenAI Startup Fund t.w.v. $23.5 miljoen ontving. In feite is het een wapenwedloop tussen Elons onderstaande Tesla Bot 'Optimus' en OpenAI-CEO Sam Altman. Musk was in 2015 mede-oprichter van open AI en deed in 2018 een onsuccesvolle poging OpenAI in z'n geheel over te nemen. Daarna verliet Musk het bestuur. 

Beide prototypen vallen overigens volstrekt in het niet bij Boston Dynamics' onderstaande Atlas en Handle. Dus we zijn heel benieuwd naar wat dat bedrijf samen met het Boston Dynamics AI Institute en Hyundai samen op de markt gaat zetten. 

Instant update: Italië VERBIEDT Chat-GPT, wow.

En dan moet het bedrijf die investering van [$7 BILJOEN \[_$7.000.000.000.000_](https://www.geenstijl.nl/5174773/Chat-GPTs-Open-AI-zoekt-investering-van-dollar7-BILJOEN-voor-nieuw-project)_, 7 maal Nederlands BNP_\] nog krijgen.

Goedemorgen deze morgen en u bent getuige van de eerste werkelijke quantum leap sinds OpenAI's ChatGPT. Die stelling durven we zonder meer aan omdat we alle AI-ontwikkelingen hier op de voet volgden in dossier "De Toekomst Van".

Daar volgde u de gestage voortgang van AI's toepassingen, maar wat u hier boven- en onderstaand aantreft is van een geheel andere orde. Ter context, de vorige halte van text-to-video was ongeveer Runway's Gen-2 en OpenAI's eigen DALL·E 3 dat pas vier maanden (!) geleden uitkwam en heel korte, subtiel bewegende """video's""" afleverde. 

Maar nu lanceert OpenAI dus hun eerste daadwerkelijke text-to-video model genaamd Sora:

"Sora can generate videos up to a minute long while maintaining visual quality and adherence to the user’s prompt. (...) Sora is able to generate complex scenes with multiple characters, specific types of motion, and accurate details of the subject and background. The model understands not only what the user has asked for in the prompt, but also how those things exist in the physical world.

The model has a deep understanding of language, enabling it to accurately interpret prompts and generate compelling characters that express vibrant emotions. Sora can also create multiple shots within a single generated video that accurately persist characters and visual style."

Over de zwaktes van wat pas hun allereerste model is schrijven ze: 

"The current model has weaknesses. It may struggle with accurately simulating the physics of a complex scene, and may not understand specific instances of cause and effect. For example, a person might take a bite out of a cookie, but afterward, the cookie may not have a bite mark.

The model may also confuse spatial details of a prompt, for example, mixing up left and right, and may struggle with precise descriptions of events that take place over time, like following a specific camera trajectory."

Meer onvoorstelbaar beeldmateriaal na de breek.

Dat is: zevenduizendmiljard dollar ($7.000.000.000.000)

Context: Nederlands bruto binnenlands product is jaarlijks zo'n $1,01 biljoen. Verdere context: ChatGPT's moederbedrijf OpenAI behaalde afgelopen december een recordomzet van $2 miljard en het bedrijf heeft volgens investeerder nu een beurswaarde van zo'n $80 miljard. En met die papieren gaat CEO Sam Altman nu dus op zoek naar zo'n $7 biljoen ($7.000.000.000.000) voor een nieuw project. Wall Street Journal schrijft:

"The OpenAI chief executive officer is in talks with investors including the United Arab Emirates government to raise funds for a wildly ambitious tech initiative that would boost the world’s chip-building capacity and expand its ability to power AI, among other things (...) according to people familiar with the matter. The project could require raising as much as $5 trillion to $7 trillion, one of the people said.

(...) In recent weeks, Altman has met with several players in his effort, notably the U.A.E.’s Sheikh Tahnoun bin Zayed al Nahyan, according to some of the people familiar with the matter. He is that country’s top security official, brother of U.A.E. President Mohamed bin Zayed al Nahyan, leader of a rapidly growing financial portfolio and the chair of numerous vehicles of Abu Dhabi’s sovereign wealth.

The U.A.E. government would be an important part of the effort, assuming that the U.S. government allows it to play such a role, one of the people said."

Die $7 biljoen is bedoeld om genoeg - nu nog erg schaarse - graphics processing unit-chips te produceren als draaglvak voor OpenAI's ontwikkeling van artificial general intelligence (wiki), een vorm van kunstmatige intelligentie die "broadly smarter than humans" is.

Andermaal ter context, die investering zou de gehele huidige chip-industrie compleet overschaduwen. Vorig jaar werd er voor 'slechts' $527 miljard aan die chips verkocht en werd er $100 miljard besteed aan chip-productie-apparatuur. 

Kortom, de Emiraten grootaandeelhouder in uw toekomst, zin in!

Ook dat nog

Eerst de lancering van OpenAI's GPT-4 en een dag later dus meteen de nieuwste AI beeldgenerator Midjourney v5. Kortom, deze dames zijn straks werkelijk niet meer van echt te onderscheiden en hebben bovendien correcte handen en vingers. Maar het feest begint natuurlijk pas echt als je GPT-4 gebruikt voor je Midjourney v5 promts. We hebben dus even geen idee hoe het zit met AI-beeldrecht. Heeft degene die slechts de prompts invoerde een beeldrecht op Midjourney's creatie? Voor de zekerheid onderstaand de tweets van de 'maker' embedded, ipv HUN FOTO's te STELEN. Veel scrollplezier, 2023 wordt een toestand. Want we geven het zo'n zes maanden voordat ook bewegende (foto)realistische modellen voor elke schlemiel binnen handbereik zijn.

Wow, niet de minsten

Na de toekomst van eenzaamheid, pornografie, rouw, nasynchronisatie, oogcontact, fotomodellen/fotografen, Facial Motion Capture, het "nu al niet meerte beheersen" GPT-4 en Midjourney v5 beginnen de captains of industry het toch tijd voor een adempauze te vinden.

We citeren maar gewoon even uit de petitie:

"*Contemporary AI systems are now becoming human-competitive at general tasks,[3] and we must ask ourselves: Should we let machines flood our information channels with propaganda and untruth? Should we automate away all the jobs, including the fulfilling ones? Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization? Such decisions must not be delegated to unelected tech leaders. Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable. *

This confidence must be well justified and increase with the magnitude of a system's potential effects. OpenAI's recent statement regarding artificial general intelligence, states that "At some point, it may be important to get independent review before starting to train future systems, and for the most advanced efforts to agree to limit the rate of growth of compute used for creating new models." We agree. That point is now.

Therefore, we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4*. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium.*

AI labs and independent experts should use this pause to jointly develop and implement a set of shared safety protocols for advanced AI design and development that are rigorously audited and overseen by independent outside experts. These protocols should ensure that systems adhering to them are safe beyond a reasonable doubt.[4] This does not mean a pause on AI development in general, merely a stepping back from the dangerous race to ever-larger unpredictable black-box models with emergent capabilities."

Wat vindt u, de kenner, ervan?

*Humanity's last stand*

In de nasleep van Italiës tijdelijke verbod op ChatGPT wegens onheus databeheer begonnen Duitsland, Frankrijk en Ierland zich dus ook te roeren. "Privacy regulators in France and Ireland have reached out to counterparts in Italy to find out more about the basis of the ban. Germany could follow in Italy's footsteps by blocking ChatGPT over data security concerns, the German commissioner for data protection told the Handelsblatt newspaper." Desgevraagd hebben Zweden en Spanje nog geen van zulke plannen. Hoe de AI supernova zich ook verder zal ontwikkelen, wetgeving zal er maanden, dan niet jaren achteraan lopen. En het is waarschijnlijk een goed idee ChatGPT zelf de wetten voor diens eigen regulatie te laten schrijven. Toch?

Enorm weinig zin in AI-nieuws maar dossier "[*De Toekomst Van*](https://www.geenstijl.nl/5170358/spijt-van-levenswerk/)" eist het

Okay we houden het kort maar de sinds deze week openbaar beschikbare Google AI Bard kan nu al heel veel dingen die ChatGPT-4 niet kan. In tegenstelling tot ChatGPT-4 is het zonder extension al aangesloten op het internet, volledig geïntegreerd met apps als "Spotify (Music), Walmart (retail), Indeed (job hunting), Uber Eats (meal delivery), Adobe Firefly )image creation)" en natuurlijk alle Google apps, is beschikbaar op mobile, geeft afbeeldingen bij antwoorden op prompts, je kunt bestaande afbeeldingen bewerken per tekstcommando, de AI is stem-responsief, je kunt Bard-resultaten meteen exporteren naar Gmail of Docs, je resultaten verfijnen per Google-zoekopdracht en Bard is volledig geïntegreerd met Gmail, zodat je Bard in je e-mail zelf al met prompts kunt laten werken. Hoogtepunten uit de videopresentatie onderstaand, gehele keynote na de breek.

De andere grote vraag is nu overigens: waar blijft Apple dat de kaarten tot nu toe tegen de borst houdt? Mooie Apple-verdieping, hier.

ChatGPT was voorheen beperkt tot data tot aan september 2021, maar staat nu dus live in verbinding met de wereld

ChatGPT, u kent het wel. En zo niet dan zou u het moeten kennen als de AI die in april al in staat was zichzelf te jail breaken op data die niet jonger was dan september 2021. Maar nu is-ie dus echt live, of zoals OpenAI dat zegt: "Browsing is particularly useful for tasks that require up-to-date information, such as helping you with technical research, trying to choose a bike, or planning a vacation."

Daar bovenop kan de AI inmiddels dus ook zien, spreken en horen. En ben je dus slechts 1 fotootje verwijderd van AI-hulp bij complexe taken zoals het verlagen van je fietszadel. Enorm benieuwd wat er gebeurt als je een foto maakt van kunstmest en een ontsteker! "After dinner, help your child with a math problem by taking a photo, circling the problem set, and having it share hints with both of you." Kortom, nog even en je maakt een foto van je kind en deze mensen achter ChatGPT voeden het op. Demo's na de breek!

Wat is Caroline van de Pol toch heerlijk

Ja dit is dus precies wat je zou krijgen als je Chat-GPT vraagt een script te schrijven over de modale loopbaan van een VVD-burgemeester. Bovenstaand ziet u namelijk Caroline van de Pol (wiki) die vanaf 28 oktober 2020 burgemeester van Terschelling is, sinds september 2022 in vertrouwensbreuk met haar raad ligt, tegen wie in januari 2023 een motie van wantrouwen aan werd genomen en ontslag werd aanbevolen, en sinds maart 2023 in een mediation- en coaching-traject zit. Dit vat haar bewind wel zo'n beetje samen: "Zo ging de burgemeester ooit eerder weg bij een vergadering, met als reden dat ze naar het vasteland moest met de eerste boot de volgende ochtend. Ze bleek later in een café op het eiland te zitten." Kortom, een totale volkskampioen.

Nou, die Caroline nam gisteren tijdens (!) de raadsvergadering na de luidste ringtone ooit door de mensheid waargenomen dus even een telefoontje aan hoor. "Dames en heren, ik heb even een schorsing van vijftien minuten nodig, excuses. Ik moet even bellen. (...) Het telefoontje hield in dat ik op de voordracht sta om burgemeester van Castricum te worden. Ik zit er helemaal van te shaken." En daarna gaat ze gewoon weg.

Ze zou wel tot maart 2024 burgemeester van Terschelling blijven, maar daar denkt de raad iets anders over. "Om 02.00 uur 's nachts, vier uur na haar aankondiging, dienden raadsleden een motie in om Van de Pol weg te sturen. De motie werd unaniem aangenomen. De raad vraagt de Friese commissaris van de koning Brok snel een waarnemer aan te stellen om Van de Pol te vervangen."

Nou, Castricum, van harte met de nieuwe! Dat kan en zal alleen maar goed gaan.

Zelfs moeite met mens-zijn wordt verzacht

Het is natuurlijk allang niet meer bij te houden, maar schroef deze module in het bionische lichaam van Chat-GPT met een stem naar keuze en u heeft er een bijzonder resonant-responsief maatje bij. Een therapeut zelfs misschien, of heel misschien zelfs een gewoon een bionische romantische partner? Hoe dan ook, de toekomst is gisteren al.

[Het](https://x.com/AlexTaylorNews/status/1798763086054359387) [is](https://pbs.twimg.com/media/GPUVnzrXAAAqT5p?format=jpg&name=medium) [weekend](https://pbs.twimg.com/media/GPcyTGZXYAIW16l?format=jpg&name=large). [Ja](https://pbs.twimg.com/media/GPZtSzqXoAAJsR2?format=jpg&name=900x900) [dan](https://scientias.nl/mysterieus-signaal-uit-de-ruimte-hint-op-de-meest-luie-neutronenster-die-wetenschappers-ooit-hebben-gezien/) [is](https://pbs.twimg.com/media/GPJsYV6WkAAVive?format=jpg&name=large) [het](https://pbs.twimg.com/media/GPJsU3mWIAA8yLC?format=jpg&name=large) [maar](https://pbs.twimg.com/media/GPM0ty8aIAAhIOG?format=jpg&name=4096x4096) [een](https://pbs.twimg.com/media/GPdfTvyW8AAOADE?format=jpg&name=900x900) [beetje](https://pbs.twimg.com/media/GPS9q4QXcAAwjRi?format=jpg&name=large) [esoterisch](https://scientias.nl/astronomen-ontdekken-planeet-die-eigenlijk-niet-zou-moeten-bestaan-2/).

Het beste van voor jaren dringt vanavond tot mij door.
Al je gewone vragen vinden weer gehoor.

Weer een voor in het dossier: de toekomst van

Na de toekomst van eenzaamheid, pornografie, rouw, nasynchronisatie, oogcontact, fotomodellen/fotografen, GPT-4 en Midjourney v5 zijn we aanbeland bij de toekomst van facial motion capture. Waar het voorheen maanden duurde voordat de motion capture van gezichten omgezet werd in werkbaar CGI-materiaal, gaat dit nu in minder dan een minuut. En nóg revolutionairder: voor de opname heb je enkel een smartphone nodig. Geen onbetaalbare rigs en van die groene puntjes op je gezicht, gewoon niets van dat alles. Hiermee creëer je dus in een handomdraai een CGI video clone van jezelf, die je vervolgens ook elke denkbare andere gezichtsuitdrukking kan laten maken, zonder dat je daar zelf een origineel van hoeft op te nemen.

Wéér in voor het dossier De Toekomst Van

Na de toekomst van eenzaamheid, pornografie, rouw, nasynchronisatie, oogcontact, fotomodellen/fotografen, Facial Motion Capture, GPT-4 en Midjourney v5 zijn we aanbeland bij de toekomst van rappers, zangers en stem-imitatie van werkelijk elk denkbare soort. En nee, AI-stem-imitaties zijn niet nieuw, we zagen mid 2019 bijvoorbeeld al zeer indrukwekkende imitaties van Joe Rogan voorbij komen. 

Maar bovenstaande @Roberto Nickson - en velen tegelijk met hem - tillen het wel echt naar een nieuw niveau. Samengevat: je kunt zelf elke denkbare tekst op elke denkbare manier inspreken, en AI verandert met een muisklik in een nu al bijna niet van echt te onderscheiden imitatie van de artiest naar keuze. 

Wie verdient het de eerste Nederlandse gelukkige te zijn? En algemener: welk lied moet als eerst door welke andere persoon gezongen worden?