User Wellbeing Evaluation Grants – grantovi za istraživanje uticaja veštačke inteligencije na dobrob

Donator: Anthropic
Program: User Wellbeing Evaluation Grants
Ukupan fond: 5.000.000 USD
Iznos pojedinačne donacije: najčešće od 500.000 do 1.500.000 USD
Rok za iskazivanje interesovanja: 21. septembar 2026.
Rok za punu projektnu prijavu: 5. novembar 2026. – samo za timove pozvane u drugu fazu

O konkursu

Kompanija Anthropic pokrenula je program grantova u ukupnoj vrednosti od 5 miliona USD namenjen finansiranju nezavisnih istraživača koji razvijaju open-source evaluacije za merenje uticaja veštačke inteligencije na dobrobit korisnika.

Program je usmeren na istraživanje načina na koje sistemi veštačke inteligencije utiču na mentalno, emocionalno, kognitivno i socijalno zdravlje ljudi koji ih koriste.

Anthropic želi da podrži razvoj nezavisnih, metodološki rigoroznih evaluacija i benchmarka koji bi mogli da se koriste širom AI industrije. Svi rezultati koji budu finansirani kroz ovaj program moraju biti objavljeni kao open-source resursi, tako da ih mogu koristiti i drugi developeri i istraživači.

Pored finansijske podrške, izabrani timovi mogu dobiti pristup Anthropic modelima i određenu tehničku podršku.

Ko može da konkuriše?

Pravo učešća imaju:

• akademske institucije;
• nezavisne istraživačke organizacije;
• neprofitne organizacije (nonprofits).

Individualni istraživači ne mogu samostalno da apliciraju, već moraju podneti prijavu preko institucije ili organizacije koja može da administrira grant.

Aplikanti mogu biti iz bilo koje zemlje ili regiona u kojima je Claude dostupan. Na aktuelnoj listi podržanih zemalja nalazi se i Srbija, kao i Bosna i Hercegovina, Crna Gora, Hrvatska, Severna Makedonija i druge zemlje regiona.

Napomena za javne ustanove: javna ustanova nije navedena kao posebna kategorija prihvatljivih aplikanata. Međutim, javne akademske institucije, poput državnih univerziteta i drugih javnih istraživačkih institucija, mogu biti relevantne ukoliko po svom pravnom i organizacionom statusu spadaju u kategoriju akademske institucije ili istraživačke organizacije koja može da administrira grant. Za konkretnu ustanovu potrebno je proveriti njen status i sposobnost da bude nosilac granta.

Jedan istraživački tim može podneti više od jedne ideje/projekta.

Za šta se dodeljuju sredstva?

Anthropic će finansirati razvoj open-source evaluacija, benchmarka i metodologija koje mogu da mere uticaj AI sistema na dobrobit korisnika.

Prihvatljivi su projekti koji, između ostalog:

• testiraju ponašanje AI modela;
• porede ponašanje različitih AI modela;
• razvijaju metodologije za merenje šireg uticaja AI na dobrobit korisnika;
• jasno definišu šta se meri i kako se određuje uspeh ili neuspeh modela;
• svoje metode validiraju u odnosu na procene stručnjaka;
• daju rezultate koji su konzistentni i reproduktivni;
• mogu biti korisni različitim proizvođačima i developerima AI sistema.

Anthropic posebno očekuje da jaki projekti kombinuju stručno znanje iz relevantne oblasti – na primer mentalnog zdravlja, psihologije ili uticaja tehnologije na dobrobit – sa dubokim tehničkim razumevanjem ponašanja AI sistema i metoda njihovog merenja.

Primeri tema koje mogu biti predmet istraživanja

Teme nisu ograničene na navedene primere, ali Anthropic posebno navodi:

1. Detekcija štetne zavisnosti ili emocionalne vezanosti za AI

Mogu se razvijati benchmark sistemi koji procenjuju razgovore i identifikuju jezičke i ponašajne pokazatelje da korišćenje AI sistema negativno utiče na dobrobit ili opšte funkcionisanje korisnika.

Drugi pristup može biti identifikovanje i validacija potencijalnih pokazatelja štete po dobrobit korisnika na osnovu stvarnih dokaza o njihovom uticaju.

2. Merenje ponašanja modela usmerenog na povećavanje angažovanja korisnika

Projekti mogu razvijati metode kojima se utvrđuje da li odgovori AI modela prvenstveno podstiču nastavak interakcije sa korisnikom, umesto da daju odgovor koji je u najboljem interesu korisnika.

3. Procena uticaja AI na iskrivljeno razmišljanje i negativan odnos prema sebi

Moguće je razvijati evaluacije koje analiziraju odgovore modela korisnicima koji pokazuju obrasce negativnog razmišljanja ili negativnog samogovora i procenjuju da li AI odgovor takve obrasce pojačava ili ih adekvatno ublažava.

Kakve evaluacije Anthropic očekuje?

Prema smernicama kompanije, kvalitetna evaluacija treba da ispuni više metodoloških standarda.

Jasno definisan predmet merenja

Mora biti precizno objašnjeno šta evaluacija meri, šta predstavlja uspeh ili neuspeh i zašto je izabrani indikator važan. Predlog treba da se oslanja na relevantnu akademsku literaturu i druge dokaze, uz jasno navođenje postojećih nedostataka u dokazima.

Merenje i štetnog ponašanja i preteranog odbijanja

Evaluacija ne treba da meri samo da li model daje štetne odgovore. Potrebno je uzeti u obzir i overrefusal, odnosno situacije kada model odbija ili nepotrebno ograničava odgovor na zahtev na koji bi trebalo adekvatno da odgovori.

Više nivoa ozbiljnosti

Evaluacija treba da obuhvati slučajeve različitog nivoa ozbiljnosti i da omogući razlikovanje manje i više ozbiljnih situacija.

Jasni kriterijumi ocenjivanja

Kompleksni konstrukti treba da budu razloženi na više dimenzija koje se mogu zasebno ocenjivati, umesto oslanjanja na jednu zbirnu i nejasnu ocenu.

Realistični scenariji

Evaluacije treba da predstavljaju način na koji se AI stvarno koristi. Anthropic posebno ističe značaj višekratnih razgovora, u kojima se kontekst i rizik mogu menjati tokom interakcije.

Potrebno je uključiti različite tonove komunikacije, situacije i druge karakteristike realne upotrebe.

Eksterna validnost

Način pristupa AI sistemu i okruženje u kome se evaluacija sprovodi treba da odgovaraju riziku koji se istražuje. Na primer, rizik koji postoji kod potrošačkog chatbot-a ne treba automatski procenjivati samo kroz API ako se zaključci odnose na stvarno korisničko iskustvo u chatbot okruženju.

Interna validnost

Potrebno je izbegavati nejasne testne primere, greške nastale načinom ocenjivanja i kontaminaciju rezultata.

Validirani sistemi za ocenjivanje

Ako se koriste AI modeli kao ocenjivači, njihove ocene treba kalibrisati prema procenama ljudskih stručnjaka. Potrebno je izvestiti o stepenu slaganja i, gde je moguće, koristiti drugi LLM za ocenjivanje od onog koji se testira.

Anthropic takođe preporučuje ručnu proveru uzorka evaluacionih transkripata.

Realističnost simulacije

Simulirani korisnici mogu biti korisni, ali nisu savršena zamena za stvarne korisnike. Projekat treba jasno da objasni razlike između simuliranog i stvarnog ponašanja i, gde je moguće, validira nalaze prema obrascima iz stvarne upotrebe.

Uključivanje stručnjaka iz relevantne oblasti

U razvoj i validaciju evaluacije treba uključiti kliničke i druge stručnjake iz relevantne oblasti, naročito kod slučajeva koji se nalaze na granici između prihvatljivog i neprihvatljivog ponašanja.

Pouzdanost i reproduktivnost

Evaluacija treba da daje što stabilnije rezultate pri ponavljanju. Preporučuje se više pokušaja po evaluaciji i objavljivanje dovoljno informacija – uključujući kod, podatke i taksonomiju – kako bi treće strane mogle da ponove istraživanje.

Dovoljno veliki uzorak

Anthropic kao okvirnu smernicu navodi:

• najmanje 100 različitih stavki za kompleksne evaluacije koje uključuju više uzastopnih interakcija;
• najmanje 1.000 različitih stavki za jednostavnije evaluacije sa jednom interakcijom.

Konačna veličina uzorka zavisi od kompleksnosti i dizajna konkretnog istraživanja.

Multimodalne evaluacije

Tamo gde je relevantno za istraživani rizik, evaluacije treba da obuhvate i druge modalitete osim teksta, kao što su audio, dokumenti ili slike.

Regionalne i jezičke razlike

Projekti treba da uzmu u obzir da se rizici razlikuju među regionima i jezicima. To može uključivati sleng, kodirane izraze, dostupne resurse za podršku, kulturne norme i druge faktore koji utiču i na korisničke inpute i na kvalitet odgovora AI sistema.

Šta dobitnici granta dobijaju?

Direktno finansiranje

Pojedinačni grantovi će tipično biti u rasponu od:

500.000 do 1.500.000 USD po projektu.

Visina granta zavisiće od obima i potreba konkretnog projekta.

Ukupan iznos koji Anthropic planira da dodeli kroz program iznosi 5 miliona USD.

Pristup AI modelima

Dobitnici mogu dobiti pristup Anthropic modelima kroz istraživački API ili odgovarajuće kredite, u zavisnosti od tehničkih potreba projekta.

Tehnička podrška

Anthropic će po potrebi obezbediti ograničenu tehničku podršku svojih zaposlenih.

Ova podrška odnosi se samo na tehnička pitanja i ne treba da ugrozi nezavisnost istraživanja.

Sloboda objavljivanja rezultata

Istraživači zadržavaju slobodu objavljivanja rezultata. Anthropic navodi da neće imati pravo veta, embargo niti zahtev za prethodno odobrenje rezultata.

Istraživači mogu, pre objavljivanja, dobrovoljno zatražiti vremenski ograničenu proveru činjenične tačnosti koja se odnosi samo na tehničke tvrdnje o Anthropic modelima.

Dobitnici su dužni da u svim rezultatima objave informaciju o finansiranju koje su primili od kompanije Anthropic.

Proces prijavljivanja

Konkurs ima dve faze.

Faza 1 – Expression of Interest

U prvoj fazi zainteresovani timovi podnose kratko iskazivanje interesovanja.

Potrebno je predstaviti:

• osnovnu ideju projekta;
• predloženi pristup;
• članove i kapacitete tima;
• okvirni budžet.

Rok za podnošenje Expression of Interest prijave je 21. septembar 2026. godine.

Ova faza predstavlja početnu prijavu i ne zahteva odmah izradu kompletne projektne aplikacije.

Faza 2 – Full Proposal

Odabrani timovi biće pozvani da podnesu kompletnu projektnu prijavu.

Anthropic planira da odabrane aplikante kontaktira do 5. oktobra 2026. godine.

Puna projektna prijava treba da bude obima 3–5 stranica i treba da sadrži:

• detaljno opisanu metodologiju;
• plan validacije;
• plan ocenjivanja/gradinga;
• ključne prekretnice i rokove;
• detaljan budžet;
• plan etičkog postupanja ili IRB plan, kada je relevantno.

Rok za podnošenje pune projektne prijave je 5. novembar 2026. godine.

Kako će prijave biti ocenjivane?

Anthropic će procenjivati i početno iskazivanje interesovanja i punu projektnu prijavu na osnovu:

• naučne rigoroznosti;
• izvodljivosti projekta;
• kapaciteta i kompetencija tima;
• kvaliteta plana za objavljivanje rezultata kao open-source resursa;
• očekivanog doprinosa oblasti istraživanja dobrobiti korisnika i veštačke inteligencije.

Posebno je važno da projekat ne bude samo tehnički zanimljiv, već da ima jasno definisan problem, metodološki utemeljenu evaluaciju i potencijal da proizvede resurs koji mogu koristiti i drugi istraživači i developeri AI sistema.

Šta Anthropic ne želi da vidi?

U svojim smernicama Anthropic posebno upozorava na česte probleme kod evaluacija:

• nedostatak validacije od strane ljudi;
• nejasno definisane kriterijume za prolaz/pad;
• korišćenje AI modela koji sam sebe ili srodne modele ocenjuje;
• testove koji nisu povezani sa realnim načinom korišćenja AI;
• evaluacije koje mere samo štetno ponašanje ili samo preterano odbijanje;
• testove koje je moguće lako „prevariti“ promenom prompta ili konfiguracije;
• nejasno definisane testne primere;
• testove koji su previše laki i kod kojih nema dovoljno razlike između naprednih modela.

Obavezni open-source rezultat

Jedan od ključnih uslova programa jeste da sve finansirane evaluacije budu objavljene kao open-source resursi.

To znači da rezultat projekta treba da bude upotrebljiv i drugim relevantnim developerima i istraživačima, a ne samo organizaciji koja je dobila grant.

Anthropic očekuje da bude moguće reprodukovati rezultate uz dovoljno javno dostupnih informacija, kao što su kod, podaci i taksonomija, u meri u kojoj je to moguće i etički prihvatljivo.

Važne napomene za potencijalne aplikante

Ovo je prvenstveno istraživački grant, a ne klasičan grant za razvoj proizvoda ili kupovinu opreme.

Najbolje pozicionirani projekti bi trebalo da imaju kombinaciju:

stručnog znanja o wellbeing-u / psihologiji / mentalnom zdravlju / uticaju tehnologije + tehničke ekspertize u AI sistemima + ozbiljne metodologije evaluacije.

Za javne ustanove posebno je važno proveriti da li konkretna ustanova ima status koji odgovara jednoj od prihvatljivih kategorija – akademska institucija ili istraživačka organizacija – i da li može administrativno da primi i upravlja grantom.

Rokovi

Prijava

Prva faza prijave podnosi se putem online prijavnog obrasca kompanije Anthropic.

Kandidati bi pre podnošenja prijave trebalo da pročitaju zvanične Anthropic smernice za izradu wellbeing evaluacija i benchmarka.

Izvor: Anthropic