Bonsoir.
Votre qualité de fonctionnaire ne vous interdit pas à priori d'être associé (dans la proportion que vous souhaitez).
L'important est que vous n'exerciez pas de fonctions exécutives et salariées, notamment celles de gérance ou de direction générale - selon le type de société - qui vous rendraient de droit "commerçant", soit une qualité incompatible avec celle de fonctionnaire.
A part cette question de "casquette", l'activité de la société en question ne devrait pas être directement concurrentielle de celle de l'organisme employeur, sauf à encourir de possibles poursuites pour concurrence déloyable, divulgation de secrets professionnels et violation du devoir de confidentialité ou autrement (quelque soit votre qualité dans la société projetée).