The Coming Wave: hoe van AI te profiteren maar ook hoe AI te temmen.

"Wat ooit eeuwen en zelfs millennia duurde, vindt nu plaats binnen enkele jaren en maanden, gevolgen daarvan verplaatsen zich over de wereld in minuten, zelfs seconden."

The Coming Wave, Mustafa Suleyman, v/h DeepMind, nu Inflection AI.

"Wat opvalt aan Suleymans zwaar gepromote boek is hoe het optimisme van zijn wil wordt overweldigd door het pessimisme van zijn intellect, om een uitdrukking van de marxistische filosoof Antonio Gramsci te gebruiken. Het grootste deel van de geschiedenis is de uitdaging van technologie geweest om haar kracht te ontketenen, schrijft Suleyman. Nu is de uitdaging omgedraaid."

John Thornhill in AI and the next great tech shift | Financial Times

Suleyman schetst o.m. een scenario waarin verkiezingen door AI worden beïnvloed. Het is dan nog maar de vraag of de regering die wordt 'gekozen' ook de regering is waarop je als burgers zat te wachten.... Nog maar een paar maanden en op 231123 weten wij het. Zijn de ministeries hierop voorbereid? Ik hoop het, maar betwijfel het.

The Coming Wave......

The Coming Wave heeft zowel een positieve als een minder positieve boodschap bij de implementatie van kunstmatige intelligentie.

Positief, 'een nieuwe dageraad voor de mensheid':

• medische vooruitgang
• doorbraak vwb schone en duurzame energie
• nieuwe bedrijven, nieuwe industrieën
• verbetering kwaliteit van leven

Minder positief, 'foutieve toepassingen':

• disruptie
• instabiliteit
• catastrofe

AI geeft mensen de mogelijkheid dingen te doen, te ondernemen op een ongekende schaal; wat dus zowel positief als negatief kan uitpakken.

Suleyman:

"Onze toekomst hangt af van deze technologieën maar wordt er ook door in gevaar gebracht."

Er zijn 4 ontwikkelingen van belang: AI ontwikkelt zich zeer snel op een asymmetrische of onsamenhangende manier, het heeft invloed op ieder facet van samenleving en economie, nu al zijn er signalen dat AI autonoom handelt.

Deze ontwikkelingen vragen om het insluiten, het temmen van AI. Dat kan betekenen dat de staat toezichthouder wordt, en da's een dilemma: vrijheid of beperking?

Voor Suleyman zijn verkiezingen, niet alleen in de VS maar ook in o.m. ons land, een testcase :

"Imagine that three days before an election a video of a presidential candidate using a racist slur spreads on social media. The campaign press office strenuously denies it, but everyone knows what they’ve seen. Outrage seethes around the country. Polls nosedive. Swing states suddenly shift toward the opponent, who, against all expectations, wins. A new administration takes charge."

Het is dan nog maar de vraag of dat de regering is waarop je als burgers zat te wachten? Nog maar een paar maanden en op 221123 weten wij het. Zijn de ministeries hierop voorbereid? De media*? Ik hoop het, maar betwijfel het.

TIP: de taalmodellen, als ChatGPT, helpen je ook bij het vinden van de oplossing! Zelfs hier gaat op 'it takes a thief, to catch a thief'.

Interessant is dat 7 dagen later ChatGPT (pas) 1 jr 'bestaat': '301122 ChatGPT, een Game Changer' idd.

Suleyman stelt deze 10 stappen voor:

1. Embrace the challenge. We need to acknowledge the potential risks of AI and take them seriously. We should not shy away from the challenge of developing safe and beneficial AI.
2. Invest in research. We need to invest in research into AI safety. This research should focus on developing techniques for ensuring that AI systems are aligned with human values.
3. Create international norms. We need to create international norms for the development and use of AI. These norms should help to ensure that AI is used for good and not for harm.
4. Promote transparency. We need to promote transparency in the development and use of AI. This will help to build trust and understanding between AI developers and the public.
5. Encourage diversity. We need to encourage diversity in the field of AI. This will help to ensure that AI systems are not biased towards any particular group of people.
6. Educate the public. We need to educate the public about AI. This will help people to understand the potential risks and benefits of AI, and to make informed decisions about its development and use.
7. Regulate AI. We may need to regulate AI in some way. This would need to be done carefully, so as not to stifle innovation.
8. Be prepared for the unexpected. We need to be prepared for the unexpected. AI is a rapidly evolving field, and we cannot predict all of the risks that it may pose.
9. Act now. We cannot wait until it is too late to address the risks of AI. We need to act now to ensure that AI is used for good and not for harm.
10. Have hope. We should not be pessimistic about the future of AI. With careful planning and execution, we can ensure that AI is a force for good in the world.

Suleyman:

"These are just some of the steps that we can take to ensure the safe and beneficial development of AI. It is important to remember that there is no easy solution to this problem. However, by taking these steps, we can increase the chances of a positive outcome."

Thornhill merkt nog op:

"Gevuld met verregaande generalisaties en extreme voorspellingen, lezen delen van Suleymans boek als een ChatGPT-herschrijving van Yuval Noah Harari’s geschiedenis van de toekomst, Homo Deus."

Herkenbaar, lees ook 'Waarom nog Artsen opleiden als Kunstmatige Intelligentie betere diagnoses stelt?'.

Feitelijk is de titel van Mustafa Suleyman's boek 'The Coming Wave', een passende vertaling lijkt me 'De Komende Storm'.

*AI filmpjes zijn zo gemaakt: vbld 1, vbld 2.

Willem E.A.J. Scheepers

151024

I think that most people are underestimating just how radical the upside of AI could be, just as I think most people are underestimating how bad the risks could be. 

Dario Amodei, mede-oprichter en CEO van Anthropic, het bedrijf achter Claude AI.

Amodei komt in een uitgebreid essay niet alleen met een essentiële waarschuwing over de impact van AI maar ook met de constatering hoe mooi het kan zijn. Zijn essay is 'in lijn' met dat wat Mustafa Suleyman schrijft in The Coming Wave. 

Amodei:

Ik denk dat het cruciaal is om een ​​echt inspirerende visie op de toekomst te hebben, en niet alleen een plan om branden te blussen.

Veel van de implicaties van krachtige AI zijn vijandig of gevaarlijk, maar uiteindelijk moet er iets zijn waar we voor vechten, een positieve uitkomst waarbij iedereen er beter van wordt, iets om mensen te mobiliseren om boven hun ruzies uit te stijgen en de uitdagingen van de toekomst het hoofd te bieden.

Angst is een soort motivator, maar het is niet genoeg: we hebben ook hoop nodig. (....)

Niettemin is het (AI; ws) een ding van transcendente schoonheid. Wij hebben de mogelijkheid om een ​​kleine rol te spelen in het waarmaken ervan.

Mijn advies: lees het essay Dario Amodei — Machines of Loving Grace en doe er 'iets' mee, bij voorkeur iets positiefs.

'AI is als de spiegel van onszelf.' .....

200624

De jonge, m.n. dat maakt dit zo interessant/relevant, AI entrepreneur Leopold Aschenbrenner schrijft een interessant essay.

De AGI-race is begonnen. We bouwen machines die kunnen denken en redeneren. Tegen 2025/2026 zullen deze machines veel universitair afgestudeerden voorbijstreven. Tegen het einde van het decennium zullen ze slimmer zijn dan jij of ik; we zullen superintelligentie hebben, in de ware zin van het woord. Gaandeweg zullen nationale veiligheidstroepen worden losgelaten die in een halve eeuw niet meer zijn gezien, en het zal niet lang duren voordat het Project van start gaat. Als we geluk hebben, zijn we in een totale race met de CCP* verwikkeld; als we pech hebben, een totale oorlog.

Iedereen heeft het nu over AI, maar weinigen hebben ook maar een flauw vermoeden van wat hen te wachten staat.

Aanrader:  SITUATIONAL AWARENESS: The Decade Ahead. 

*CCP ofwel Conditional Computation Policy (CCP) in AI

Conditional Computation Policy refers to a method where a machine learning model dynamically decides which parts of the model should be active or inactive based on the input data. This allows the model to allocate computational resources efficiently, activating only the necessary parts for a given input.

290424

Stel je eens voor dat iedereen een persoonlijke privéleraar in zijn of haar directe omgeving heeft en toegang krijgt tot goedkoop medisch advies.

Een advocaat en een arts, een bedrijfsstrateeg en een coach, ze staan je allemaal 24 uur per dag beschikbaar en je draagt 'ze' in je zak. Maar de dingen beginnen pas echt te veranderen als ze zich ontwikkelen tot wat ik AQ noem, hun 'Actie Quotiënt’.

Dit is hun vermogen om dingen daadwerkelijk gedaan te krijgen in de digitale en fysieke wereld. En het duurt niet lang, dat het niet alleen mensen zullen zijn die Als hebben.

Vreemd klinkt het misschien, elke organisatie, van klein van non-profitorganisatie tot nationale overheid elk zal een eigen AQ hebben.

Mustafa Suleyman in zijn Ted Talk 'What is AI anyway?'

210324

Dat was niet alleen interessant maar ook leuk, deel te nemen aan de vergadering van de Commissie Financiën, Bedrijfsvoering en Digitalisering 2023-2027 van het Waterschap Brabantse Delta.

Je gaat naar de verkiezingen, je stemt ook op het bestuur van het waterschap, je loopt al enkele maanden langs de ondergelopen weilanden en natuurgebieden maar dat geeft je nog geen idee van dat wat zo'n bestuur nu feitelijk doet, ik heb veel vergaderingen bij organisaties gezien maar nog niet bij een waterschap, nu weet ik het.

Ook al liep het programma enigszins uit, zoals gezegd: voor mij was het interessant.

Het betekende dat mijn presentatie getiteld 'The Coming Wave' startte om 21.30u, ik begrijp dat niet iedereen dat volhield. Dan is het mooi dat het audio/video team van het waterschap er voor zorgt dat de live stream ook is terug te kijken. Wil je toch doorspoelen dan vind je mij vanaf 1u '30. 

Agenda BrabantseDelta - Commissie Financiën, Bedrijfsvoering en Digitalisering 2023-2027 woensdag 20 maart 2024 20:00 - 22:00 - iBabs Publieksportaal (bestuurlijkeinformatie.nl) Mijn presentatie duurt '20, aanvullende Q&A '10

Nb: de titel van mijn meest recente LI nieuwsbrief is niet voor niets Sundown Side Up.