Apple Chloorgas AI-Avatar Prompt Injection

Bewust is een wekelijkse nieuwsbrief over AI en de impact van AI op ons leven. Met een combinatie van analyse, techniek en humor houdt Bewust je wekelijks als eerste op de hoogte van het laatste in AI.

Welkom! Deze week weer een Bewust vol met interessant nieuws en genoeg linkjes om even zoet mee te zijn. De afgelopen week stelde de CEO van een groot AI-bedrijf zowel dat hallucinaties in taalmodellen niet te voorkomen zijn én dat hij verwacht dat er binnen 2-3 jaar een AI met menselijk intelligentieniveau is. Op zich zijn die twee stellingen niet onverenigbaar, maar het is kenmerkend voor de grillen van de AI-hype waar we in zitten. Ik hoop dat ik je met Bewust de mogelijkheid bied om zelf een objectief oordeel over ontwikkelingen in AI te vormen. Geniet van je vakantie en anders een mooie, productieve week gewenst!

Kris

✔️ Selectie van het belangrijkste AI-nieuws

1: Apple Apple blijft onduidelijk over de plannen met AI. Eindbaas Tim Cook stelde deze week dat Apple druk bezig is AI te integreren in ieder Apple-product en extra te investeren in ontwikkeling. De Financial Times zocht het wat verder uit (zonder paywall) en vond een groot aantal vacatures voor ontwikkelaars van generatieve AI. Uit de vacatureteksten blijkt dat Apple inzet om taalmodellen zo klein mogelijk te maken dat ze draaien op een iPhone en niet in de cloud. Om privacy-redenen is dat een mooi streven en iets waarmee Apple zich kan onderscheiden van de concurrentie.

2: ChatGPT Er gaan al langer geluiden op dat de prestaties van ChatGPT afnemen, al zijn die niet onbetwist. Ook doken er meerdere transcripts van chats met gekke output op. Veel daarvan zijn uiteindelijk nep. Door nieuwe functionaliteit kun je ChatGPT allerlei voorkennis meegeven en gewenst gedrag specificeren. Die instellingen zijn niet te zien in de chattranscripts, die nu dus worden gedeeld om een misleidend beeld van de output te geven. Voor deze chat (hier voorgoed beschikbaar) geldt dat niet. Wat je hier ziet is dat het model een stukje metadata die gebruikt wordt als scheidingsteken in de trainingsdatasets meestuurt in het antwoord.

Ook lijkt het model ruwe stukken tekst uit de trainingsdata, in dit geval een chattranscript, mee te sturen. OpenAI is zijn modellen constant aan het fine-tunen en dat is wel eens als verklaring gegeven voor de wisselende performance - lees variabele intelligentie. 💡 

3: AI-avatar HeyGen, een bedrijf dat AI-avatars, dus AI-versies van jezelf maakt, demonstreerde deze week wat zijn product kan. Uiteraard is dit een erg goed voorbeeld en zijn er vast minder goede versies die het niet gehaald hebben, maar bekijk de video eens alsof je niet weet dat die door AI gegenereerd is en vraag je af of je het dan als zodanig zou herkennen.

4: Chloorgas Een AI-app met kooktips van een supermarkt in Nieuw-Zeeland schotelde recepten voor die het giftige dichloor (chloorgas) produceren. Tot de voorbeelden behoren een ‘fresh breath’ mocktail met bleek en mierengif-lijmbroodjes. De app deed voorstellen op basis van restjes eten die je invoerde en maakte creatief gebruik van alle ingevoerde ingrediënten zoals schoonmaakmiddelen, zonder ingebouwde check op eetbaarheid of giftigheid. Feitelijk is dit prompt injection, met de invoer tot ongewenste uitvoer komen. Wat flauw, maar dit is wat ‘het internet’ nou eenmaal doet. Wel goede marketing voor de inmiddels offline gehaalde app.

📰 Kort nieuws snelle kennis, meer tijd voor actie

Neem ‘according to’ in je prompt op en de output is waarheidsgetrouwer, omdat je het model naar betrouwbare trainingsdata stuurt.

Volgens romanschrijver Walter Kirn is ChatGPT onsportief en net als een honkbalspelende robot: dat die kan scoren is niet indrukwekkend.

Ook de paus waarschuwt voor AI: misschien is hij boos over de bekende deepfake van hem in een bomberjack?

Taalmodellen hebben een sterke politieke voorkeur; uit onderzoek blijkt dat GPT-4 een links-liberale inslag heeft en LLaMA nogal rechts is.

Ander onderzoek stelt dat op basis van de toetsenbordgeluiden tijdens een Zoom-vergadering AI met 93% accuraatheid kan vaststellen wat je typt.

Een lang maar goed begrijpelijk stuk over de mogelijke toepassingen van AI in het onderwijs inclusief kansen en risico’s, met goede doorverwijzingen.

Uit onderzoek van BlackBerry onder 2000 organisaties blijkt dat 75% het gebruik van ChatGPT uit veiligheidsoverwegingen verboden heeft.

Stof tot nadenken over hoe AI het internet verandert: API’s en taalmodellen aan elkaar geknoopt, zoals eerder behandeld in Bewust.

Een interview met de makers van WormGPT, een chatbot die hackers helpt bij het ontwikkelen van malware en phishing-aanvallen.

GPTBot, de crawler van OpenAI: het is mogelijk om indexering van je website en dus gebruik voor AI-training weigeren en dat gebeurt veel.

📺️ Media podcasts, video, en wat dies meer zij

Een interessante podcastaflevering met Sam Harris, een bekende podcaster en filosoof die zich zorgen maakt over AI.

Björn Ulvaeus van ABBA blijkt in dit nieuwe interview goed geïnformeerd over de impact van AI op de muziekwereld en tapt mooie anekdotes.

The Age of AI is een al wat oudere maar strak geproduceerde serie documentaires die veelgestelde vragen over AI beantwoordt.

Een college van AI-wetenschapper Stephen Wolfram over de impact van taalmodellen op natuurkunde en andersom.

Uitleg door Two Minute Papers over een video-producerende AI van Microsoft op die getraind op 100 miljoen YouTube-video’s.

💡 Vondsten de diepte in met cursussen, tooltjes en meer

Image to Story: upload een afbeelding en deze AI gebaseerd op LLaMA2 van Meta verzint er een verhaaltje bij (tip: gebruik een stockfoto) (link).

Doctor GPT: een open-source medisch taalmodel dat het Amerikaanse doktersexamen haalt en dat je lokaal, geen API-toegang, kan draaien (link).

Awesome Generative AI: een lijstje met leessuggesties, cursussen en verschillende AGI-projecten (tekst, code, video, beeld en geluid) (link).

PC Builder AI: een algoritme dat de beste hardware voor een nieuwe PC voor je bij elkaar zoekt op basis van je budget (link).

AudioGradio: script om met één druk op de knop de muziekproducerende AI’s AudioCraft en MusicGen te kunnen gebruiken (link).

🖼️ AI-afbeelding/-video van de week

Een door AI gegenereerde commercial voor bier (met een verontrustende inslag van consumentisme)

Bedankt voor het lezen. Attendeer bekenden op Bewust als je het AI-nieuws wekelijks wilt blijven lezen. Ik waardeer je feedback op en ideeën voor de nieuwsbrief enorm. Je kunt me bereiken via e-mail of via het feedbackformulier achter de poll hieronder.