Che scopo avrebbe però una prova del genere?
Perchè se ti serve perché devi andare a cercare chessò pergamene e pozioni il personaggio può anche non sapere che esiste l'incantesimo palla di fuoco ma in teoria il giocatore sì, quindi può basarsi su quello e decidere che rovistando tra le vecchie pergamene del negozio ha trovato quella e che poi il commerciante gli ha spiegato cosa faceva o che ha spiegato cosa gli serviva al commerciante che gli ha consigliato quell'altra ancora.
Più in generale i personaggi (salvo ambientazioni particolari, io parto da un Golarion di base) sanno che la magia permette di fare bene o male di tutto quindi spesso non si pongono troppo certi dubbi, ma di volta in volta seguono le loro idee generali (sarebbe comodo un incantesimo che rimpicciolisce gli oggetti) e poi (grazie alla conoscenza dei giocatori) cercheranno incantesimi specifici. Poi ovviamente puoi voler far ruolare tali ricerche ma quello è tutto DM fiat, non ci sono regole precise.
Sono di quelle questioni fumosi e annose, senza definizione precisa se non quella del gruppo, tipo la "familiarità" con le forme selvatiche. L'importante è che non ci si annoii, anche se si scade un pò nel "metagioco" (ma vedi il paragrafo dopo). Se i giocatori vogliono far spendere giorni ai loro giocatori nelle biblioteche di magie per trovare l'incantesimo giusto bene, se invece non vogliono farlo per un motivo o per l'altro l'incantatore saprà di default l'esistenza dell'incantesimo giusto (senza prove, con prove), specialmente se c'è un mago di mezzo non è roba così strana.
Vedila anche come è la conoscenza stessa dei giocatori degli incantesimi che fa le veci della conoscenza dei giocatori della magia. Poi se vuoi laddove un giocatore non conosce così bene gli incantesimi esistenti potresti lasciare fare delle prove per avere indizi, come a volte si può fare quando si usano degli indovinelli che i giocatori fanno fatica a risolvere.