DEBATT

Alan Said, professor i datavetenskap. Gunnar Jönsson

REPLIK. Reglering som träffar tekniken snarare än den faktiska makten riskerar att gynna de stora aktörerna, skriver Alan Said i en replik. 

Heidi Lund pekar i sin debattartikel på ett verkligt och viktigt problem när hon beskriver hur rekommendationer, ranking och personalisering kan påverka efterfrågan, konkurrens och företags möjligheter att nå marknaden.

Sådana effekter uppstår sällan genom ett enskilt beslut som enkelt kan identifieras som skadligt. De växer fram gradvis genom miljontals interaktioner mellan användare, företag och algoritmiska system.

Men just därför bör vi vara försiktiga med att göra rekommendationssystemet i sig till föremål för reglering.

Ett rekommendationssystem är inte en avgränsad teknik med en bestämd samhällseffekt. Liknande metoder används för att rekommendera allt från musik, nyheter och filmer till reservdelar, utbildningsmaterial och produkter i en liten webbutik. Systemens konsekvenser avgörs inte enbart av algoritmen, utan också av vilka mål den optimerar, vilka data den använder, hur gränssnittet utformas, vilken affärsmodell den ingår i och vilken ställning aktören har på marknaden.

I praktiken ingår rekommendationssystem i större sociotekniska system. Effekterna uppstår i samspelet mellan teknik, organisation, användare, incitament och marknadsstruktur. Samma typ av algoritm kan därför få helt olika konsekvenser beroende på var och hur den används.

Regleringen bör därför utgå från systemets faktiska räckvidd och makt. En global plattform som i praktiken kontrollerar synligheten på en hel marknad har helt andra möjligheter att forma efterfrågan än ett mindre företag som använder rekommendationer för att hjälpa sina kunder att hitta bland några tusen produkter. Att behandla dem på samma sätt för att båda använder personalisering riskerar att bli både ineffektivt och oproportionerligt.

För stora plattformar kan krav på insyn, oberoende granskning, tillgång till data och analys av systemiska effekter vara motiverade. För små företag och nystartade verksamheter kan samma krav innebära betydande administrativa och ekonomiska hinder, utan att motsvarande samhällsnytta uppstår.

Reglering som träffar tekniken snarare än den faktiska makten riskerar dessutom att gynna de stora aktörer som redan har resurser att hantera omfattande regelefterlevnad.

Nyhetsrekommendationer är ett tydligt exempel på varför sammanhanget spelar roll. Där behöver systemen bedömas i relation till journalistiska och demokratiska värden, mångfald, rättvisa och människors informationsbehov.[1]

Inom andra områden ser målen, riskerna och de samhälleliga funktionerna annorlunda ut. En generell regleringsmodell kan därför missa just de värden den är tänkt att skydda.

Lunds slutsats att vi behöver uppmärksamma kollektiva och systemiska effekter är riktig. Men den relevanta frågan är inte bara om en verksamhet använder rekommendationsalgoritmer. Vi bör fråga vilken makt systemet har att forma människors val, begränsa andra företags tillgång till marknaden och påverka samhällets centrala institutioner.

[1] Bernstein, A., de Vreese, C. H., Helberger, N., Schulz, W. & Zweig, K. A. (2020). “Diversity, Fairness, and Data-Driven Personalization in (News) Recommender System.” Dagstuhl Reports, 9(11), 117–124. https://doi.org/10.4230/DagRep.9.11.117.