Hackerconferentie Verkiezingsnieuws

Bewust is een wekelijkse nieuwsbrief over AI en de impact van AI op ons leven. Met een combinatie van analyse, techniek en humor houdt Bewust je wekelijks als eerste op de hoogte van het laatste in AI.

Welkom! Deze week weer een Bewust vol met interessant nieuws en linkjes. De zomervakantie is voorbij; hopelijk heb je de tijd kunnen gebruiken voor reflectie en energie opgedaan voor een frisse start. Ik wens je een mooie week toe!

Kris

✔️ Selectie van het belangrijkste AI-nieuws

1: Verkiezingen Tekstberichtjes krijgen van een presidentskandidaat, die vervolgens door een taalmodel gegenereerd blijken. Alleen in Amerika? In de VS, Engeland en ook Nederland zitten er volgend jaar verkiezingen aan te komen. Ook voor het Europees Parlement zijn er in juni verkiezingen. Het klinkt allemaal nog ver weg, AI zal een grote rol gaan spelen. Zoals in het voorgaande voorbeeld, waarbij bots in campagnes worden ingezet om potentiële stemmers te bereiken. Maar er is ook onrust, omdat het met generatieve AI makkelijk is om grote hoeveelheden tekst en afbeeldingen te genereren; informatie en misinformatie. Nieuw onderzoek wijst uit dat het (uiteraard) met AI veel goedkoper is om politiek ingestoken nepnieuws te genereren dan wanneer je mensen dit laat doen. Een minder voor de hand liggende bevinding, uit ander onderzoek, is dat het door de schaalbaarheid makkelijker is nepnieuws toe te spitsen op doelgroepen. Als je je alvast wilt inlezen vindt je hier een uitgebreide verkenning van de mogelijke impact van AI op de verkiezingen. Geschoeid op Amerikaanse leest, maar ook toepasbaar Nederlandse context. Hier een nog een grondig artikel dat zeer beeldend laat zien hoe AI onze social media beïnvloedt.

2: Hackerconferenties In Las Vegas kwamen vorige week veel hackers bij elkaar voor Black Hat en DEFCON, twee grote conferenties op het gebied van cybersecurity. ML en AI hadden een centrale rol, kijkend naar de lijst met nieuwe beveiligingstoepassingen die hier zijn aangekondigd. Ook waren er veel interessante praatjes over de beveiliging van AI zelf, waaronder deze (spoiler: redelijk technisch). Op het iets meer technisch ingestoken DEFCON werd door 2500 personen geexperimenteerd met het hacken van AI’s, een initiatief ondersteund door de grote AI- en techbedrijven. Dat is met name interessant omdat bij de ontwikkeling van nieuwe technologie de beveiliging doorgaans weinig aandacht krijgt. En hard nodig, want eerder dit jaar bleek al dat het mogelijk is om ChatGPT kwaadaardige scripts te laten genereren als je zegt dat je het voor onderwijsdoeleinden nodig hebt. Voorbeelden van aanvallen waarmee vorige week werd geëxperimenteerd zijn prompt injection, modellen ongewenste dingen te laten doen met slimme prompts, het door AI laten genereren van frauduleuze webwinkels en het hosten van malware op Hugging Face, een site waar veel AI-modellen worden geplaatst. Ook de beperkte wiskundige gaves passeerden weer de revue. De aanvalsmogelijkheden die er zijn gevonden worden niet openbaar gemaakt tot februari, om de leveranciers de mogelijkheid te geven de gaten in de tussentijd te dichten. Een rapportage van beveiligingsbedrijf Mandiant wijst er overigens op dat grote hackgroepen veel interesse hebben in AI, maar de toepassing in de praktijk nog beperkt is.

📰 Kort nieuws snelle kennis, meer tijd voor actie

De Economist bespreekt deze week hoe een groeiend aantal AI-bedrijven op zoek is naar data: met name nieuwe/unieke datasets.

AI-wetenschapper Gary Marcus heeft het over hoe de economie rond AI zich ontwikkelt en waar mogelijke gevaren voor de continuiteit liggen.

Econoom Tyler Cowen vermoedt dat de impact van AI op de (Amerikaanse) economie vermoedelijk bescheidener is dan gedacht (zonder paywall).

De komende generatie mensen gaat steeds meer op AI lijken omdat de massatoegang tot technologie en media de creativiteit vermindert.

De zoektocht naar mensen met technische AI-skills is moeilijk en bedrijven bieden steeds vaker een jaarsalaris (in dollars) van bijna een miljoen.

Ook ex-Google-baas Eric Schmidt heeft een nieuw AI-bedrijf en wil hiervoor toptalent van bestaande bedrijven en de wetenschap aantrekken.

Meta, voorheen Facebook, komt binnenkort met hun alternatief voor Code Interpreter: Code LLaMA. Interessant als dit offline beschikbaar is.

Voor hackers is er nu voor 10 dollar ook Evil-GPT: op basis van de screenshots niet heel capabel en weinig verschillend van reguliere GPT.

Daarentegen is er ook FraudGPT dat 200 dollar per maand kost en al iets beter geïnformeerd lijkt. Laat de screenshots voor zichzelf spreken.

Een door AI-gegenereerd van Microsoft MSN.com (ja dat bestaat nog) beveelde de voedselbank van Ottawa aan als must-see op een lege maag.

Een overzicht van hoe door AI gegenereerde plaatjes - lees: voor 99% troep - het internet overspoelen (en hoe dit waarschijnlijk doorzet).

Een framework voor het gebruik van taalmodellen in een bedrijfscontext: o.a. LLM-gateways, audits, tests en security monitoring.

📺️ Media podcasts, video, en wat dies meer zij

Een podcast met Vitalik Buterin van Ethereum, die slimme dingen zegt over meer dan cryptocurrency. Prik even door het accent van de hosts heen.

Een lang verwacht debat tussen George Hotz en Eliezer Yudkowsky over de gevaren van AI, alignment en mogelijke veiligheidsmaatregelen.

The race for artificial intelligence: een nieuwe minidocumentaire van Deutsche Welle over de Europese rol in de ontwikkeling van AI.

💡 Vondsten de diepte in met cursussen, tooltjes en meer

AI 101 for Teachers: een instapcursus AI voor mensen in het onderwijs, bruikbaar gezien het ChatGPT-gebruik onder jongeren (link).

Human Generator: creëer foto’s van mensen op basis van een prompt met o.a. geslacht, etniciteit, leeftijd, kleding en afbeeldingsachtergrond (link).

LLaMAGPT: een privacy-vriendelijke, want lokaal draaiende, chatbot op basis van LLaMA 2 (link).

DevOpsGPT: koppelt requirementstools en taalmodellen aan elkaar om softwaredevelopment te versnellen (link).

REFORMS: een checklist voor verantwoord gebruik van ML/AI in wetenschappelijk onderzoek (maar ook goed bruikbaar daarbuiten) (link).

Lecture Notes for Quantum Computing: dictaten van colleges over quantummechanica en -computers op het vooraanstaande MIT (link).

Open Challenges in LLM Research: een goed overzicht voor diegenen die hier op diep technisch niveau mee bezig zijn (link).

🖼️ AI-afbeelding/-video van de week

Politieke leiders als gangleiders

Bedankt voor het lezen. Attendeer bekenden op Bewust als je het AI-nieuws wekelijks wilt blijven lezen. Ik waardeer je feedback op en ideeën voor de nieuwsbrief enorm. Je kunt me bereiken via e-mail of via het feedbackformulier achter de poll hieronder.