Om man gör (analog) broadcast så tar man fram tongeneratorn och multimetern, kalibrerar till unity överallt och så är det klart

Det kan i någon mån översättas till din situation, åtminstone i så måtto att det blir enklare att jobba om man ställer nivåer rätt. När man blandar analogt och digitalt kan man ju inte ta 0dB analogt och sätta till -0dBFS; det blir så klart tokigt. Normalt är att referera till -18 eller -20 dBFS som 0dB analogt.
I ditt fall, så skulle jag se till att AD-omvandlaren (ljudkortet) ger en -18dBFS digital signal ut om man matar den med 775mV analogt. Sen skulle jag se till att mixern ger 775mV ut analogt om man skickar ut signal så att mätarna ligger på 0dB. Efter det kommer vi till processorerna. Se till att de ger ut 775mV om man ger dem 775mV med processen inkopplad men nollad, dvs ingen kompression, ingen kompensationsförstärkning (make-up gain), frekvensrak återgivning (åtminstone så att du får nollförstärkning (unity gain) vid 1KHz, det är det vanliga att testa.) Det är ju bra om man inte slår i botten med en brusgrind heller.
Du får sedan kompensera med regel eller motsvarande så att resultatet av signalbehandlingen inte avviker från normalnivån för mycket, när du väl börjar dra i spakarna på processorerna. Blir det mycket fel så brukar tex. kompensationsförstärkning på kompressorer behöva justeras. Av någon anledning är det i särklass vanligaste felet att en överstyrningsindikator börjar signalera...
Praktiskt är att kunna koppla bort signalbehandlingen, antingen genom att ha en "insert bypass" i mixern eller rycka snöret i växelfältet. Process och inte process bör skilja sig åt genom att process låter bättre, inte mer. Öronen är dåliga här. Mätaren är bra.
Med detta uppsatt kan du förlyssna en signal i mixern (eller titta på utgångssignalen till A/D) och vara rimligt säker på att om den fluktuerar under och kring 0dB på mäteriet så kommer den att bo fint i den digitala världen. Vilket i princip är vad du är ute efter, men angripet på ett praktiskt vis, snarare än en uträkning.
I PA-världen är det lämpligt att maximera brusnivåer och i någon mån dynamisk reserv (headroom) genom att spela på som vanligt ur mixern (toppar till kanske +6dB på utmätare) med nerskruvade steg och sen lyfta dem tills det är lagom starkt. Om stegens ingångspotentiometrar bottnar innan man är nöjd med ljudtrycket i rummet är det bara att hänga på mer saker
