AcosΘ ーBsinΘ  =  C
このままでは計算できません
sin と cosは直接足したり引いたり出来ないからです
やはり
(sin Θ)^2+(cosΘ)^2=1
(sin Θ)^2=1 ー(cosΘ)^2
という関係によって sin
と cos をリンクしなくてはいけません
でも2乗によって問題は、内容が倍に増えちゃいます
 ( AcosΘ ーBsinΘ )^2  =  C^2 は、
元の問題に無い
 AcosΘ ーBsinΘ  = ー Cも含んでいるからです
ですから、この増えちゃった分の答えが余分に出てきます
でも、2乗しないと先に進めない訳で、
2乗したものの中の、これが増えちゃったモノだよって
取り出して見せられないのです
また、この問題sin
と cosがA,Bでほぼ対称な形をしているけど
Cだけ浮いちゃってますので
C=0の場合の答え 
tanΘ =A/B → Θ = arctan(A/B)の形から
推測して
C≠0の場合にも答えはtanΘという形がヒントになります
この意味で
元々の問題は正しいと言えます。

A = BtanΘ + C / cosΘ から
(A ー BtanΘ )/C=1/cosΘ
また、(sin Θ)^2+(cosΘ)^2=1から
(tanΘ)^2+1=1/(cosΘ)^2
ですから
(tanΘ)^2+1=((A ー BtanΘ )/C)^2
tanΘ=Xと書くと
C^2(X^2+1)=(A ー BX )^2
(C^2ーB^2)X^2+2ABX+(C^2ーA^2)=0

X=[ーAB+−√((AB)^2ー(C^2ーB^2)(C^2ーA^2))]/(C^2ーB^2)
=[[ーAB+−√((AB)^2ー(C^2ーB^2)(C^2ーA^2))]/(C^2ーB^2)]

√(・・・)=√((BC)^2+(AC)^2ーC^4)
=|C|√(B^2+A^2ーC^2)
これ以上簡単にはなりません

ですから
Θ =
arctan[[ーAB+−|C|√(B^2+A^2ーC^2)]/(C^2ーB^2)]
が、その答えを無理矢理出した形です。
これには、C=0の解
Θ = arctan(A/B)は含まれていますが
2乗したことで余分な解も含んでいます
しかし、一般的に言える事は
B^2+A^2≧C^2くらいで
+−のどちらが正しい答えかを検証する作業は
あまりにも複雑な計算になってしまいます。