#62 - Lytterspørgsmål om LLM’er og Bias med Sine Zambach

I denne uge i Verbos Podcast besvarer vi lytterspørgsmål med CBS-adjunkt Sine Zambach om large language models og bias. Vi taler om alt fra brugen af AI-modeller i undervisning til de tekniske aspekter af forskellige modeltyper. Vi udforsker, hvordan større modeller og datasæt påvirker resultater og introducerer bias, samt hvordan instruktioner og reward-modellering spiller ind. Diskussionen berører også fremskridt inden for fortolkning af sprogmodeller, herunder hvordan de lærer og komprimerer viden. Vi overvejer etiske aspekter ved brug af AI, herunder anvendelsen af syntetiske data og vigtigheden af diverse prompts for at opnå varieret output. Samtalen afsluttes med refleksioner over, hvordan AI kan bruges positivt i verden og i undervisningen, med fokus på læreres rolle i at hjælpe elever med at navigere i AI-bias. Find Sine Zambachs bog “AI i gymnasiet” her: https://praxis.dk/hf/htx/produkt/ai-i-gymnasiet Teater Fantast: https://www.teaterfantast.dk/data-data/ Chapters 00:00 Introduktion og lytterspørgsmål 09:32 Udgivelse af bogen 'AI i gymnasiet' 12:17 Kampen om at detektere AI-skrevne opgaver 13:00 Brug af large language models til læring 15:50 Diskussion af metaforer for large language models 17:06 Forskellige typer af AI-modeller 19:12 Metaforer til at beskrive AI-modeller 25:41 Påvirkning af større modeller og datasæt 32:48 Instruktioner og reward-modellering i AI-modeller 35:07 Lærernes rolle i at forstå og navigere i bias i AI-modeller 37:23 Fremskridt inden for interpretability af sprogmodeller 39:55 Hvor kommer sprogmodellernes viden og intelligens fra? 47:53 Komprimering af viden gennem sprog 50:49 Bias i sprog og afspejling af den virkelige verden 59:55 Brugen af syntetiske data i træning af sprogmodeller 01:01:55 Etiske overvejelser ved brugen af kunstig intelligens 01:03:23 Stimulering af sprogmodeller med forskellige prompts 01:05:23 Kunstig intelligens til at gøre noget godt for verden