ご回答大変有難うございます。

>> そうでした。十分性も示さねばなりませんでしたね。
>> ∀z∈{z∈R^2;|x-z|+|z-y|=|x-y|}を採ると 今,|x-z|+|z-y|=|x-y|で
>> |x-z|,|z-y|,|x-y|は夫々,線分,xz,zy,xyの長さを表している。 従って,zは線分xy上にならねばならない。
> そこが証明すべきことです.

この証明ではダメなんですね。
背理法で|x-z|+|z-y|=|x-y|であるにも拘らずもし,zがxy上に無かったとしたら
三角形の定理「三角形ABCに於いて,辺BCの長さは辺ABと辺ACの長さ未満である」に反する。
よって,zは線分xy上になければならない。

でいいでしょうか?

>> (i) x≠yならt:=|z-x|/|y-x|と採れる。 (ii) x=yの時は明らか。 で宜しいでしょうか?
> それが証明できれば, 後は大した問題ではありません.

これもダメでしたか。

(OX→)-(OZ→)=(ZX→)
(OZ→)-(OY→)=(YZ→)
(OX→)-(OY→)=(YX→)
なので(∵幾何ベクトルの差の定義)
|x-z|+|z-y|=|x-y|
は
|(ZX→)|+|(YZ→)|=|(YX→)|
と書け,両辺を2乗して
|(ZX→)|^2+2|(ZX→)||(YZ→)|+|(YZ→)|^2=|(YX→)|^2
⇒2|(ZX→)||(YZ→)|=|(YX→)|^2-|(ZX→)|^2-|(YZ→)|^2
⇒2|(ZX→)||(YZ→)|=|(ZX→)-(ZY→)|^2-|(ZX→)|^2-|(YZ→)|^2
⇒2|(ZX→)||(YZ→)|=-2(ZX→)・(ZY→) (但し,・は内積)
⇒cos∠((ZX→),(ZY→))=(ZX→)・(ZY→)/|(ZX→)||(ZY→)|=-|(ZX→)||(ZY→)|/|(ZX→)||
(ZY→)=-1
⇒∠((ZX→),(ZY→))=-π.
これはzがxとyの線分上になる事を示している。
よって,zをxとyとの線分の内点とすると
(OZ→)=(1-t)(OX→)+t(OY→) (0≦t≦1)
⇒ z=(1-t)x+ty
⇒ z=x+t(y-x)

で宜しいでしょうか?

>>>  S'' は, O を O に移す, ratio が 1 の similarity である ということだけが分かります.
>> 今,S''=D_{1/r}○S'=D_{1/r}○T_{-V}○Sですよね。 S''がOをOに写す事は
>> S''(O)=(D_{1/r}○T_{-V}○S)(O)=D_{1/r}○T_{-V}(S(O)) =D_{1/r}○(V-S(O))
>> =D_{1/r}((V-S(O)))でここからどうしてOに写る事が示せますでしょうか?
> V = S(O) - O が V の定義でした.

そうですね。

> T_{-V}(S(O)) = S(O) + (-1)(S(O) - O) = O は

S'(O)=T_{-V}(S(O))=S(O)+V (∵T_{-V}の定義)
=S(O)+(-1)(S(O)-O) (∵Vの定義)
=O
ですね。

> 既に S'(O) = O で示しました.

今,S'(O)=Oが分かったので
S''(O)=D_{1/r}○S'(O)(∵S''の定義)
=D_{1/r}(O) (∵S'(O)=O)
=O (∵Oの1/r倍はやはりO)
でいいのですね。

>> 始点がOで (∵上記よりS''はOをOへ写す), 終点はa_1S''(X_1)+a_2S''(X_2)
>> へ写す(∵S''はratio1でT_{-V}での平行移動のみ)
> S'' が線形写像になることを示そうとしているので,
> 線形写像だから成立する性質(終点は a_1S''(X_1) + a_2S''(X_2))
> を使っては意味がありません.

うーん,でもそうしますと,
S''(a_1OX_1+a_2OX_2)からどうやってa_1S''(X_1)+a_2S''(X_2)が導けますでしょうか?

>> そうでした。直交行列はSLと表せ,行列式の絶対値が1になる行列でしたね。
> SL (special linear) ではありません.
> O (othogonal) です.

すいません。間違ってしまいました。
直交行列ならば行列式は±1ですが行列式が±1なら直交行列とは必ずしも言えないのですね。

>> 回転の定義はそのようなものではないのでしょうか?
> 言葉の定義はどのように決めても構いませんが,
> 内実を知っていないと意味がありません.

すいません。では,
4次以上では直交行列が単に回転の表現行列になっているとは言えるようなものではない
とはどういう意味でしょうか?

>> 3次の直交行列は
>> 1,0,0 0,cosθ,-sinθ 0,sinθ,cosθ と -1,0,0 0,cosθ,-sinθ 0,sinθ,cosθ
>> ですね。前者が回転,後者がimproperな回転ですね。
> それは直交変換を行列で表す時の正規直交基底を
> その直交変換に合わせて上手く取れば, です.

これはつまり,線形写像の表現行列は定義域と値域との基底によって定まる。
よって,直交変換の表現行列は基底の取り方によっては直交行列にはならないという意味でしょうか?
その場合は直交変換は回転を必ずしも表しているわけではなく単に内積を保存するだけ線形写像なのですね。

>> n次元ではどのようになるのでしょうか?
> 正規直交基底を上手く取れば,

任意の直交行列は表現行列が下記のようになるように上手く正規直交基底を選べるのですね。

> det P = 1 のものについては,
> n = 2m 又は 2m + 1 として,
> 回転の行列を R(θ) = [[cos θ, - sin θ],
>                      [sin θ,   cos θ]]
> として, R(θ_1), R(θ_2), ... , R(θ_m) を
> 対角に並べ( n = 2m + 1 のときは 1 を付け加え)た行列
> になります.

これは有難うございます。とても参考になります。
表現行列がこのように表せる直交変換を回転というのですね。