TEXT: Kto bude písať budúcnosť Rómov?
Ján Bihari, RomaTech a boj o to, aký hlas budú mať Rómovia vo svete umelej inteligencie
Správa, ktorá ma vrátila na jar 2024
Koncom augusta prišla správa, ktorá stojí za pozornosť aj mimo technologických kruhov. Ján Bihari zo Serede so svojím projektom RomaTech uspel v medzinárodnej konkurencii a vstúpil do prototypovej fázy Global Trust Challenge v kategórii Governance. Podľa Úradu splnomocnenca vlády SR pre rómske komunity sa RomaTech zaradil medzi približne 70 tímov z 25 krajín sveta. Nejde už iba o prihlásený nápad. Bihari má pre prototypovú fázu kontrakt a jeho úlohou je rozvinúť návrh do podoby pracovného prototypu, ktorý bude ďalej odborne posudzovaný.
Keď som si tú správu prečítala, vrátila ma na jar 2024. Vtedy sme Jána Bihariho pozvali do Akana Teraz, do inšpiratívneho magazínu (nielen)pre rómsku mládež, ktorý je plný pozitívnych vzorov a motivácií a v ktorom sa mediálne činní Rómovia a Rómky rozhodli cez silné príbehy svojich rómskych hostí meniť negatívny mediálny obraz Rómov na Slovensku.
https://www.pribehybezhranic.sk/two-columns/
Rozhovor s Biharim moderoval Daniel Bunda. A Bihari začal svoje vysvetľovanie zdanlivo veľmi ďaleko od Rómov. Hovoril o dejinách ľudstva a o okamihoch, keď nový nástroj zmenil nielen spôsob práce, ale aj rozdelenie moci.
"Ľudstvo vždy zažilo nejakú obrovskú zmenu. Najprv sme dokázali využiť oheň. Potom koleso. Potom prišla kníhtlač a ľudia sa dostali k obrovskému množstvu informácií. Zrazu už neboli iba nevedomými ľuďmi, ktorých môže niekto ovládať. Potom prišiel parný stroj a opäť zatriasol trhom práce. A teraz prichádza niečo, o čom hovoríme, že rozmýšľa na úrovni človeka, hoci nemá vedomie ani dušu."
A práve v tomto bode obrátil otázku k Rómom a Rómkam.
"A ja sa pýtam, kde v tomto celom sú naši ľudia, Rómovia z marginalizovaných rómskych komunít alebo z vylúčených spoločenstiev. Prichádza doba, keď niečo ľuďom veľmi uľahčí život, ale niektorým ľuďom to zoberie pracovné kompetencie, možno prácu. A čo vlastne chceme od človeka, ktorý žije vo vylúčenej komunite, v osade, nemal šancu sa k týmto veciam dostať a zrazu sa svet zmení?"
V tej chvíli už nehovoril iba o novej technológii. Hovoril o tom, kto bude mať šancu stať sa jej používateľom, kto jej bude rozumieť a kto bude opäť stáť na okraji civilizačnej zmeny.
Nový nástroj: jar 2024
Bihari uvažoval o umelej inteligencii ako o novom nástroji, ale súčasne ako o priestore, v ktorom sa nanovo rozdeľuje moc nad informáciami. Zaujímalo ho, kto technológie vytvára, kto nastavuje ich pravidlá a koho skúsenosť sa do nich dostáva.
"Aj my chceme a vieme s tým pracovať. Chceme poznať nielen svoje digitálne povinnosti, ale aj svoje digitálne práva. A hlavne chceme riešiť algoritmus umelej inteligencie. My sme nevytvárali dáta. Rómovia nevytvárali sami o sebe dáta."
Tá veta je podstatnejšia, než sa môže na prvé počutie zdať. Veľká časť písomných, administratívnych, vedeckých a mediálnych záznamov o Rómoch vznikala mimo rómskej komunity. Vytvárali ich úrady, výskumníci, novinári, polícia, sociálne inštitúcie, historici či autori patriaci k väčšinovej spoločnosti. To automaticky neznamená, že tieto dáta sú nepravdivé. Znamená to však, že pohľad na menšinu bol po celé desaťročia vo veľkej miere pohľadom zvonka.
Presne tento problém poznajú aj postkoloniálne a kultúrne štúdiá. Edward Said ukázal, že reprezentácia nie je iba nevinný opis "iných": spôsob, akým dominantná spoločnosť pomenúva a vysvetľuje inú skupinu, spoluvytvára poznanie o nej. Gayatri Chakravorty Spivak neskôr položila ešte nepríjemnejšiu otázku: nestačí, že marginalizovaný človek hovorí. Dôležité je, či sú dominantné štruktúry vôbec nastavené tak, aby jeho hlas dokázali počuť. Pri umelej inteligencii sa tento starý problém reprezentácie presúva do nového technologického prostredia.
https://academic.oup.com/edited-volume/61883/chapter-abstract/547833789
https://www.jstor.org/stable/10.7312/morr14384
"Naše príbehy, všade, kde sme spomenutí, všetko, čo o nás v rámci celého sveta existuje, sme nerobili my. Keď komunikujem s umelou inteligenciou a dávam jej takéto úlohy, sama mi odpovedá, že na základe toho, s čím pracuje, má predispozíciu vytvárať predsudky. Keď som sa pýtal, ako tomu zabrániť, dostal som sa k tomu, že treba pracovať s dátami."
Bihari vtedy používal aj zjednodušenú predstavu "očistenia dát". Samotný problém je zložitejší. Rozhoduje pôvod zdrojov, ich kvalita, kontext, zastúpenie rôznych perspektív, ale aj to, čo v dátach vôbec nie je. Práve chýbajúce dáta sú pri menšinách zásadné. Ak v digitálnom priestore chýbajú rómske texty, rómske odborné hlasy, lokálne dejiny, rómčina, orálna pamäť alebo skúsenosť Rómov a Rómok, AI nemá z čoho túto perspektívu spoľahlivo rekonštruovať. Prázdne miesto v dátach sa potom môže tváriť ako prázdne miesto v skutočnosti.
Inými slovami: problémom nie je iba to, čo internet o Rómoch hovorí. Rovnako dôležité je to, čo o nich nevie, pretože sa to nikdy nedostalo do dát v dostatočnej sile, kvalite alebo jazyku.
"My musíme s ľuďmi, ktorí tieto technológie vyvíjajú, hovoriť. Mala by sa vytvoriť etická norma alebo etická komisia, ktorá sa zaoberá umelou inteligenciou. Z hľadiska jednej z najohrozenejších skupín obyvateľstva v Európe by sme tam mali mať zastúpenie aj my. Nie je to iba o Rómoch. Bude sa to týkať každého jedného človeka.
Dôležité je, že o tom začíname rozprávať. Ja mám rád architektúru súvislostí, veci si pospájať. A vyšlo mi z toho, že ak teraz nenabehneme na vlak, ktorý sa rozbehol a rúti sa veľmi rýchlo, ak doň nenaskočíme, budeme mať problém. Potrebujeme sa veľmi rýchlo zmobilizovať, nasať čo najviac digitálnych zručností a odovzdávať ich ďalej, aby sme neboli tí, ktorí ten vlak zmeškali."
Čo vlastne umelá inteligencia "vie"?
Generatívna umelá inteligencia nie je encyklopédia, ktorá pri každej otázke otvorí zásuvku s hotovou, overenou pravdou. Jazykový model vytvára odpoveď na základe vzorcov a pravdepodobností naučených z veľkého množstva dát. Preto môže odpoveď znieť plynulo, odborne a sebavedomo, hoci niektoré tvrdenia môžu byť nepresné, nedostatočne podložené alebo vymyslené.
Najjednoduchšie si ju možno predstaviť ako niekoho, kto prečítal obrovskú knižnicu, ale pri každej odpovedi nemá automaticky pri sebe knihovníka, historika ani fact-checkera. Plynulosť nie je dôkaz pravdivosti.
Pri Rómoch a Rómkach sa k tomu pridáva problém historickej reprezentácie. Digitálne dáta nie sú neutrálna fotografia sveta. Ak sa určitá skupina v dátach opakovane spája najmä s chudobou, kriminalitou, sociálnymi problémami alebo konfliktom, algoritmický systém môže tieto asociácie zachytiť a reprodukovať. Nemá ľudské predsudky ani nenávisť, môže však pracovať so skresleniami, ktoré už v dátach existujú.
Agentúra Európskej únie pre základné práva upozorňuje, že algoritmické skreslenia môžu vznikať a zosilňovať sa a môžu viesť k diskriminačným dôsledkom.
https://fra.europa.eu/en/publication/2022/bias-algorithm
Druhé stretnutie: Ten, ktorý vidí ďalej
O rok neskôr sme sa k Jánovi Biharimu vrátili. S Romanom Hraníkom sme o ňom nakrútili film Ten, ktorý vidí ďalej, zaradený do unikátneho dokumentárneho cyklu Vnímanie. Cyklus dlhodobo prináša portréty, príbehy a témy rómskej národnostnej menšiny do vysielania STVR. Film o Biharim nebol iba portrétom človeka fascinovaného technológiami. Jeho zásadným posolstvom bola otázka, či Rómovia a Rómky vstúpia do digitálnej budúcnosti iba ako objekty dát a používatelia hotových technológií, alebo aj ako ľudia, ktorí ich vytvárajú, testujú, interpretujú a ovplyvňujú.
https://www.stvr.sk/televizia/archiv/20839/560194#895
"Čo vlastne chceme od človeka, ktorý žije v nejakej vylúčenej komunite, v nejakej osade? Zrazu má umelú inteligenciu a nachádza sa v revolúcii a v ekonomickej tranzícii celosvetového rozsahu. Toto je podľa mňa obrovský skok pre ľudstvo. Ako my, Rómovia, vieme prispieť k tomu, aby algoritmus alebo dataset vedel hodnotiť autentický rómsky príbeh?"
My sme nevytvárali dáta. Naše príbehy, všade, kde sme spomenutí, všetko, čo o nás v rámci celého sveta existuje, sme nerobili my. Pre mňa sú veľmi dôležité dáta. Dáta sú nové palivo našej budúcnosti."
To bolo jedno zo zásadných posolstiev filmu. Ak sú dáta novým palivom, potom nie je nepodstatné, kto ich vyrába, čo sa v nich zachytí a čo z nich vypadne. Ak sa digitálna pamäť spoločnosti stáva jednou z učebníc pre AI, záleží na tom, kto túto pamäť písal.
Keď predsudok začne rozhodovať
Vo filme nám Bihari ukázal aj svoj Simulátor diskriminácie. Jeho zmysel sa dá pochopiť až vtedy, keď si predstavíme konkrétnu situáciu. Človek si chce cez digitálny systém dohodnúť lekára, uchádza sa o prácu, hľadá si byt na prenájom alebo žiada o úver. Medzi ním a službou už nemusí stáť človek. Čoraz častejšie tam môže byť automatizovaný systém alebo AI operátor, ktorý vyhodnocuje informácie a odporúča ďalší krok.
Bihari v simulátore zámerne pracoval s negatívnymi postojmi k Rómom prevzatými z výskumu verejnej mienky. Potom ukazoval, čo sa môže stať, ak sa takéto postoje premenia na vstupné pravidlá digitálneho rozhodovania. Rómsky používateľ sa v simulovanom svete pokúša dostať k lekárovi, hľadal si prácu a byt a iba na základe rómskeho priezviska ho systém posudzoval cez predsudky, ktoré dostal ako dáta o Rómoch, pričom Řóma identifikoval iba na základe priezviska, nezaujímal sa o jeho osobný príbeh a kontext, pretože rómske priezvisko rovná sa potencionálny problém a systém je nastavený na odvracanie potencionálnych problémov. Simulátor nebol záznamom spontánneho správania konkrétneho komerčného modelu. Bol experimentálnym zrkadlom: čo by sa stalo, keby sa spoločenský predsudok preložil do technického rozhodovania AI. Rómovia by boli vylúčení na okraj záujmu.
"RomaTech Impact je simulátor diskriminácie. Zobral som reálny výskum verejnej mienky a povedal som si: urobím zrkadlo spoločnosti. Ak dáme stroju dáta, ktoré nás budú dehonestovať, ale zároveň budú vychádzať z výskumu, stane sa presne to, čo vám ukážem.
Je to výskum, je to reálny výskum. Toto si ľudia myslia o Rómoch. A na základe toho sa to tento stroj naučil. Ak si umelá inteligencia zoberie dáta, ktoré do nej vložili, a tie dáta budú plné rasizmu, tak umelá inteligencia bude asi ten najväčší rasista na svete. Ak bude umelá inteligencia rasista, môže sa stať, že sa nedostaneme k lekárovi, nedostaneme prácu, nedostaneme úver v banke a náš život bude veľmi ťažký."
Umelá inteligencia, samozrejme, nie je rasista v ľudskom zmysle slova. Nemá nenávisť ani morálny postoj. Bihari používa expresívnu personifikáciu. Odborný problém pod ňou je však reálny: automatizované systémy môžu reprodukovať alebo zosilňovať skreslenia v dátach a ich výstupy môžu mať diskriminačné dôsledky.
DROM: budúcnosť ako varovanie
V roku 2025 Bihari túto otázku posunul o takmer dve desaťročia dopredu. V pripravovanom vizuálnom románe a digitálnej hre DROM si predstavil Rómov v roku 2043. Nie ako predpoveď budúcnosti, ale ako varovný scenár toho, čo by sa mohlo stať, ak časť rómskej komunity zostane mimo technologického vývoja.
DROM zobrazuje budúcnosť, v ktorej časť Rómov naďalej žije spôsobom pripomínajúcim dnešné vylúčené osady. Technologický svet ich však už dávno obkolesil. Ich život sledujú drony a pre zvyšok spoločnosti sa stávajú akousi permanentnou reality šou. Svet o nich vie takmer všetko, oni o svete takmer nič. Práve v tejto nerovnováhe je jadro dystópie: byť dokonale viditeľný ako objekt dát a zároveň nemať prístup k poznaniu a moci, ktoré tieto dáta prinášajú.
"Zamyslel som sa nad tým, ako bude vyzerať svet v roku 2043. Hlavne svet marginalizovaných ľudí, ak nebudú ovládať dátovú vedu, ak nebudú mať vedomosti o digitalizácii, ak ich to nikto nebude učiť. Ako to bude vyzerať? Rómovia v roku 2043 žijú v uzavretých spoločenstvách, celý svet sa na nich smeje, ich život je prenášaný dronmi, vie sa o nich úplne všetko, ale Rómovia o svete nevedia nič."
Bihariho varovanie však nesmeruje iba k digitálnej priepasti. To, čo sa odohrá vo svete technológií, sa bude premietať do reálneho života ľudí. Kto nebude rozumieť technológiám, nebude mať prístup k vedomostiam a nebude sa vedieť v novom digitálnom svete pohybovať, môže mať horšie možnosti vzdelávať sa, nájsť si prácu, zlepšiť svoje sociálne postavenie či využívať služby, ktoré sa budú čoraz viac presúvať do digitálneho prostredia. Technologické zaostávanie tak môže prehlbovať už existujúce sociálne a ekonomické nerovnosti a vytvárať nové.
Bihari však nechce zostať pri bezvýchodiskovej dystópii. V jeho koncepte sa medzi Rómami objavujú ľudia, ktorí sa rozhodnú túto pozíciu zmeniť. Formát vizuálneho románu umožňuje, aby hráč svojimi rozhodnutiami ovplyvňoval smerovanie príbehu. Fikcia sa tak stáva spôsobom, ako ukázať možné dôsledky technologického vylúčenia oveľa konkrétnejšie než cez odbornú prednášku.
"Je to moja vlastná výpoveď o novom svete, ktorý nás čaká až do roku 2050 a kde budú možno Rómovia nie poslední, ale prví."
DROM tak domýšľa dôsledok toho, o čom Bihari hovoril už v roku 2024. Vtedy upozorňoval, že Rómovia musia nastúpiť do rozbehnutého technologického vlaku. DROM ukazuje jeho predstavu toho, čo sa môže stať s ľuďmi, ktorí na stanici zostanú.
https://www.pribehybezhranic.sk/l/34-tem-ktory-vidi-dalej-jan-bihari/
Od filozofie k praktickým líniám
To, čo v roku 2024 znelo najmä ako filozofia digitálnej emancipácie, sa postupne rozvetvovalo do konkrétnych línií. Nie ako jedna vec, ktorá vždy nahradila predchádzajúcu, ale ako viacero paralelných ciest: digitálne vzdelávanie, práca s dátami, vizualizácia Atlasu rómskych komunít, Simulátor diskriminácie, DROM, technologická publicistika a napokon aj validačný rámec pre dôveryhodnosť tvrdení AI.
V júli 2025 bol Bihari na stránke EUROCC@NSCC predstavený ako zakladateľ Tibi Digital a odborník na zmierňovanie digitálnej priepasti, ktorý vyvíja edukačné a technologické nástroje pre rómsku komunitu cez jazyk, hry a umelú inteligenciu.
https://eurocc.nscc.sk/ked-sa-technologia-stretne-s-inkluziou-vizia-pre-spravodlivu-spolocnost/
V septembri 2025 predstavil v Prahe multimediálnu knihu RomaTech – Cesta k evolúcii Rómov. Český rozhlas písal o umelej inteligencii, programovaní, predsudkoch voči rómskej komunite aj o multimediálnom simulátore diskriminácie.
V novembri 2025 sa RomaTech objavil v podcaste TRENDY AI, kde Bihari hovoril o dátach, diskriminačných vzorcoch, etike, inklúzii a digitálnej identite.
https://www.trend.sk/technologie/trendy-ai-ako-romovia-ucia-umelu-inteligenciu-ludskosti
Doma nepresvedčil
Jedna z línií RomaTechu mala dostať aj podobu technologického, mediálno-vzdelávacieho projektu pre Rómov a Rómky na Slovensku. Občianske združenie ROMAPOŽOMATAR predložilo Fondu na podporu kultúry národnostných menšín projekt RomaTech: Budúcnosť je teraz (Prvý rómsky technologický inštitút a magazín). Projekt bol predložený v podprograme 2.4.4 – Vznik alebo vývoj národnostných elektronických a/alebo internetových médií a kampaní a žiadal o dotáciu 52 962 eur. Pri 14 plánovaných videopodcastoch to predstavuje v priemere približne 3 783 eur na jeden diel, pričom z tejto sumy sa nemala financovať iba samotná výroba videopodcastov, ale celý technologický a vzdelávací obsah projektu. Prostredníctvom videopodcastov, živých ukážok výskumu, vzdelávania, rómskej IT terminológie a priestoru pre rómskych odborníkov mal pomáhať Rómom a Rómkam porozumieť umelej inteligencii a vedieť s ňou kompetentne pracovať.
Projekt RomaTech: Budúcnosť je teraz v databáze FPKNM
Boli v ňom prítomné témy, ktorým sa Bihari venuje naprieč svojimi projektmi: umelá inteligencia, dáta, Simulátor diskriminácie, digitálne vzdelávanie a ambícia, aby Rómovia a Rómky neboli iba používateľmi nových technológií, ale vstupovali aj do ich tvorby.
Projekt však cez rómsku odbornú radu pre prioritnú oblasť B Fondu na podporu kultúry národnostných menšín na jar 2026 neprešiel. Z bodového hodnotenia vyplýva, že zo štyroch riadnych členov odbornej rady projekt odporučil podporiť Jozef Ravasz. Rastislav Zubaj, Stanislav Daniel a Milan Čarňanský svojím bodovým hodnotením deklarovali, že projekt podporiť neodporúčajú.
Fond projektu na základe rozhodnutia odbornej rady nepridelil ani euro. Verejné zdôvodnenie pozostávalo z jedinej vety:
"Odborná rada odporúča projekt nepodporiť vzhľadom na jeho nedostatočnú presvedčivosť."
Bodové hodnotenie rómskej odbornej rady, prioritná oblasť B
Rozhodnutie rómskej odbornej rady, prioritná oblasť B
O projekte rozhodovali štyria členovia rady s rozdielnym profesijným zázemím. Rastislav Zubaj pôsobí ako regionálny koordinátor Úradu splnomocnenca vlády SR pre rómske komunity, Stanislav Daniel je odborník na rómske vzdelávanie, ľudské práva a sociálne začleňovanie a riaditeľ Roma Education Fund Slovakia. Milan Čarňanský je nerómsky spisovateľ a prozaik, pôvodným vzdelaním banský geológ; v jeho verejne dostupnom profesijnom životopise nenachádzame odborné pôsobenie spojené s rómskou kultúrou ani s kontextom rómskych komunít. Doc. PhDr. Jozef Ravasz, PhD. je romológ, spisovateľ a vysokoškolský pedagóg, ktorý sa rómskej problematike profesionálne venuje desaťročia a dvadsať rokov prednášal na vysokých školách romológiu, sociálnu prácu a andragogiku.
Kontakty Úradu splnomocnenca vlády SR pre rómske komunity
Profesijný profil Stanislava Daniela
Profesijný životopis Milana Čarňanského
Práve hodnotenie Stanislava Daniela je v tomto kontexte viac ako zaujímavé. Už v novembri 2025, teda niekoľko mesiacov pred hodnotením RomaTechu, ako riaditeľ Roma Education Fund Slovakia verejne upozorňoval na riziko digitálneho vylúčenia Rómov. V texte They Don't See Us Yet: Roma Children at the Edge of Europe's Digital Future písal o "digitálnej segregácii" a o svete čoraz viac formovanom algoritmami, v ktorom môžu rómske deti zostať opäť na okraji. Upozorňoval, že technologický vývoj môže existujúce nerovnosti preniesť do digitálneho sveta a prehlbovať ich, ak Rómovia a Rómky nebudú jeho aktívnou súčasťou.
They Don't See Us Yet: Roma Children at the Edge of Europe's Digital Future
O niekoľko mesiacov neskôr svojím bodovým hodnotením neodporučil podporiť projekt, ktorý chcel práve túto problematiku preniesť z odborného prostredia priamo k rómskemu publiku.
Neuvádzam túto súvislosť preto, aby som spochybňovala odbornosť Stanislava Daniela alebo hľadala rozpor v jeho osobných postojoch. Naopak. Práve skutočnosť, že význam digitálnej inklúzie Rómov sám verejne a veľmi presne pomenoval, odhaľuje oveľa zaujímavejší problém: rozdiel medzi schopnosťou odborného prostredia určitý problém rozpoznať a schopnosťou systému podporiť jeho konkrétne riešenie v praxi.
Práve o tento presun z pomenovania problému do konkrétnej praxe sa chcel RomaTech pokúsiť. Nie hovoriť iba o Rómoch a ich mieste v digitálnej budúcnosti, ale hovoriť o tejto budúcnosti priamo s nimi. V médiu určenom rómskemu publiku vysvetľovať umelú inteligenciu, prácu s dátami a riziká algoritmickej diskriminácie, vytvárať rómsku IT terminológiu, dávať priestor rómskym odborníkom a budovať kompetencie potrebné na to, aby Rómovia a Rómky dokázali do technologických zmien aktívne vstupovať.
O to zaujímavejšie je porovnať výsledok hodnotenia s prioritami stanovenými na rok 2026. Štruktúra podpornej činnosti FPKNM uvádza medzi prioritami pre rómsku národnostnú menšinu podporu projektov zameraných na plnenie cieľov Stratégie rovnosti, inklúzie a participácie Rómov do roku 2030.
Štruktúra podpornej činnosti FPKNM na rok 2026
Stratégia stojí na rovnosti, inklúzii a participácii a osobitný dôraz kladie aj na nediskrimináciu a boj s protirómskym rasizmom. Participácia pritom nemusí znamenať iba zapájanie Rómov a Rómok do tém, ktoré sa s nimi tradične spájajú, ako sú bývanie, chudoba či sociálna pomoc. Ak má mať skutočný obsah, musí vytvárať priestor aj na to, aby Rómovia získavali vedomosti a kompetencie v oblastiach, ktoré budú určovať ich budúce vzdelanie, zamestnanie, prístup k informáciám, službám a napokon aj ich postavenie v spoločnosti.
Stratégia rovnosti, inklúzie a participácie Rómov do roku 2030
A tu vzniká paradox, ktorý je väčší ako jeden nepodporený projekt. Na úrovni stratégií, akademických diskusií a odborných textov už vieme pomenovať digitálne vylúčenie ako riziko. Vieme hovoriť o potrebe participácie, digitálnych kompetencií aj o nebezpečenstve, že algoritmy môžu reprodukovať existujúce nerovnosti. Oveľa ťažšia skúška prichádza vo chvíli, keď sa tieto všeobecne formulované ciele premenia na konkrétny projekt, konkrétny obsah a konkrétnu žiadosť o podporu.
Preto otázka neznie iba, prečo neprešiel RomaTech. Je širšia: aký reálny priestor dostávajú v médiách určených Rómom a Rómkam témy, ktoré už odborné prostredie a verejné politiky označujú za dôležité pre ich budúcnosť? A dokážeme tieto priority nielen pomenovať v stratégiách a odborných textoch, ale rozpoznať ich aj vtedy, keď dostanú konkrétnu podobu?
Ak projekt odbornú radu ako celok nepresvedčil, bolo možné overiť jeho potenciál aspoň v menšom rozsahu. Namiesto všetkých 14 plánovaných videopodcastov mohol vzniknúť jeden či dva pilotné diely. Ukázali by, či dokáže téma, o ktorej už odborné prostredie diskutuje, fungovať aj tam, kde napokon potrebuje dostať reálny obsah: priamo medzi Rómami a Rómkami.
RomaTech ako sieť viacerých línií
RomaTech sa rozvíja vo viacerých paralelných líniách, ktoré spája snaha pripraviť Rómov a Rómky na technologické zmeny a zároveň im vytvoriť priestor aktívne do nich vstupovať.
Jedna z línií sa venuje digitálnemu vzdelávaniu. Iná dátam a ich vizualizácii. Ďalšia Simulátoru diskriminácie. DROM používa fikciu a hru. Mediálna línia mala prinášať technologické témy priamo rómskemu publiku. A línia, ktorá dnes vstúpila do Global Trust Challenge, sa sústreďuje na dôveryhodnosť poznania vytváraného umelou inteligenciou.
Bihari ju nazýva RomaTech: Epistemic Validation Framework for Knowledge Integrity and Semantic Stability in AI Systems. Ľudskou rečou: chce vytvoriť kontrolnú vrstvu medzi odpoveďou AI a okamihom, keď jej človek uverí.
Predstavme si, že sa umelej inteligencie opýtame na dejiny Rómov na Slovensku. Model vytvorí presvedčivú odpoveď. RomaTech sa pýta: čo presne AI tvrdí? Je to historický fakt, štatistika, interpretácia alebo odhad? Aký dôkaz tvrdenie podporuje? Odkiaľ pochádza? Dá sa spätne dohľadať? Nechýba mu zásadný kontext? A pri citlivých historických, kultúrnych alebo komunitných otázkach: kto má mať možnosť povedať, že systém síce našiel zdroj, ale nepochopil jeho význam?
Logiku prototypu Bihari opisuje ako sled: otázka → odpoveď AI → hodnotenie → identifikované riziko → dôkaz → epistemický status → odporúčaná oprava. Rómovia a Rómky sú prvým validačným prípadom, ale ambícia projektu je širšia. Rovnaký problém sa môže týkať ďalších marginalizovaných komunít, menšinových jazykov či malých národov.
"RomaTech vznikol z veľmi jednoduchej otázky: kto má právo rozhodnúť, či je tvrdenie umelej inteligencie o minoritnej komunite pravdivé?
Nechceme bojovať proti AI. Chceme vytvoriť rámec, v ktorom bude AI slúžiť pravde, dôstojnosti a ľuďom."
Global Trust Challenge: z myšlienky do kontraktu na prototyp
Global Trust Challenge je celosvetová inovačná iniciatíva zameraná na dôveru v AI a digitálne informačné prostredie. Vznikla v reakcii na výzvu skupiny G7. UNESCO je zakladajúcim partnerom a medzi partnermi iniciatívy sú IEEE Standards Association, OECD, AI Commons a Inter-American Development Bank. Výzva prepája technológie, verejné politiky, štandardy a informačnú integritu.
https://www.globalchallenge.ai/
https://www.unesco.org/en/articles/call-applications-global-trust-challenge
Program je postavený na princípe návrh → prototyp → pilot. RomaTech prešiel výberom návrhov a vstúpil do prototypovej fázy. To je podstatné pomenovať presne, ale bez zmenšovania úspechu. Bihari už nemá v rukách iba prihlášku do súťaže. Má kontrakt na prototypovú fázu vrátane poskytnutia nemalých finančných zdrojov a jeho projekt sa dostal do medzinárodného prostredia, v ktorom sa stretávajú technologické riešenia, AI governance, štandardy a verejné politiky.
Prototypovanie zároveň nie je cieľová stanica. Práve teraz sa má ukázať, ako bude rámec fungovať na konkrétnych odpovediach AI, ako bude pracovať s dôkazmi a kontextom, kto bude vykonávať ľudskú a komunitnú validáciu a ako bude riešiť situácie, keď sa kvalitné zdroje navzájom nezhodnú. To však nie je dôvod úspech zmenšovať. Je to presne význam prototypovej fázy: medzinárodný výber otvoril RomaTechu dvere k tomu, aby sa myšlienka stala testovateľným riešením.
Od vlaku k architektúre trate
Keď si dnes pustím rozhovor z jari 2024, Bihariho metafora vlaku znie inak ako vtedy. Pýtal sa, či Rómovia a Rómky stihnú nastúpiť do vlaku technologickej revolúcie a získať digitálne zručnosti skôr, ako sa priepasť ešte zväčší.
O rok neskôr pred našou kamerou hovoril, že dáta sú novým palivom budúcnosti. Ukazoval Simulátor diskriminácie a cez DROM skúšal predstaviť svet, v ktorom môže byť rómsky človek dokonale viditeľný pre technológie a zároveň úplne odstrihnutý od moci nad nimi.
Dnes jedna z línií RomaTechu vstupuje do hlbokej realizačnej fázy. Pokúša sa vytvoriť pravidlá, podľa ktorých by sa malo posudzovať, čomu možno veriť ako poznaniu umelej inteligencie o minoritách a ich komunitách.
A tým sa mení aj obraz vlaku, o ktorom Ján Bihari hovoril na jar 2024. Vtedy bola otázka, či Rómovia a Rómky stihnú nastúpiť. Dnes už nestačí dostať lístok a nájsť si miesto vo vagóne. Nestačí ani naučiť sa technológie používať. Skutočná digitálna participácia sa začína až tam, kde Rómovia nevstupujú do hotového systému, ale majú možnosť ovplyvňovať aj pravidlá, podľa ktorých tento systém vzniká a rozhoduje.
Preto už nejde iba o to, kto bude technológie ovládať. Ide o to, kto bude mať moc určovať, čo sa v novom digitálnom svete bude považovať za dôveryhodné poznanie.
Ak sa umelá inteligencia učí aj z toho, čo o Rómoch celé desaťročia zaznamenávala, opisovala a interpretovala prevažne majoritná spoločnosť, potom sa nestačí pýtať, čo nám AI o Rómoch povie. Musíme sa pýtať, odkiaľ to vie. Z akých dát skladá svoju odpoveď. Čí pohľad v nich chýba. Koho skúsenosť sa nikdy nestala dátom. A kto bude mať právo jej povedať: toto o nás nie je pravda.
Možno práve tu sa uzatvára oblúk, ktorý sa začal Bihariho vlakom. Najväčším rizikom totiž nemusí byť, že Rómovia do technologickej budúcnosti nastúpia neskoro. Oveľa vážnejšie by bolo, keby do nej vstúpili včas, naučili sa používať všetky jej nástroje, a napriek tomu zostali iba predmetom poznania, ktoré o nich vytvára niekto iný.
Pretože v ére umelej inteligencie sa nebude rozhodovať iba o tom, kto technológie používa.
Bude sa rozhodovať aj o tom, kto má právo definovať pravdu o druhých.
A tentoraz by pri jej tvorbe mali byť aj tí, o ktorých tá pravda hovorí.
Magda Kmeťková
Text nájdete aj na https://blog.sme.sk/kmetkova/spolocnost/kto-bude-pisat-buducnost-romov .