AcosΘ ーBsinΘ  =  C
は見方を変えると
AX−BY=C
という直線と
X^2+Y^2=1
という半径1の円との
交点を求める問題とも言えます
B≠0なら
Y=(A/B)Xー(C/B)
X^2+(A/B)^2X^2ー2(AC/B^2)X+(C/B)^2ー1=0
(1+(A/B)^2)X^2ー2(AC/B^2)X+(C/B)^2ー1=0

X=[(AC/B^2)+−√((AC/B^2)^2ー(1+(A/B)^2)((C/B)^2ー1))]/(1+(A/B)^2)
=[AC+−√((AC)^2ー(A^2+B^2)((C^2ーB^2))]/(A^2+B^2)
=[AC+−√(B^4+A^2B^2ーB^2C^2)]/(A^2+B^2)
=[AC+−|B|√(A^2+B^2ーC^2)]/(A^2+B^2)
交点が存在するには
A^2+B^2≧C^2でなければならないし、

以上まとめると
B≠0の場合
A^2+B^2≧C^2なら
Θ=
arccos[AC+−|B|√(A^2+B^2ーC^2)]/(A^2+B^2)
A^2+B^2<C^2なら
解なし
B=0の場合
Θ=
arccos(C/A)

ところが、B=0の場合は、B≠0の場合の答えに含まれるから
Bへの制限は解除され

-------- 最終回答 ----------

A^2+B^2≧C^2を満たす任意のA,B,Cに対して
Θ=
arccos[AC+−|B|√(A^2+B^2ーC^2)]/(A^2+B^2)

A^2+B^2<C^2なら
解なし