山田です. そろそろ答えを書くことにします.

定理
mを正の整数とする.
このときP(n^2±1)≦mを満たすnは有限個であり,
そのようなnは実効的に決定することができる.

証明

まず, t, u, Dを整数とし, 数列t_r, u_r(r=1, 2, ...)を

t_r+u_r.sqrt(D)=(t+u.sqrt(D))^r

を満足するものとします.

このとき(t+u sqrt(D))^r=Σ_{i=0}^{r} rCi.t^{r-i}.u^i.D^{i/2}より
u_r=Σ_{i=0}^{r} rC{2i+1}.u^{2i+1}t^{r-1-2i}.D^i,
ここでv_{ri}=rC{2i+1}.u^{2i+1}t^{r-1-2i} D^i(0≦i≦r)とおくと

u_r=v_{r0}+...+v_{rr} ...(1)

となります.

補題1. s>1が奇数でp≧5をp|Dとなる素数とすると,
m(p, ru)<m(p, rCs.u^s.D^{(s-1)/2})...(2)
が成り立つ.
(ここでm(p, x)はp^e|xとなる最大のe)

証明. m(p, r)=a, m(p, u)=bとおく. 明らかに
m(p, rCs.u^s.D^{(s-1)/2})≧m(p, rCs)+bs+(s-1)/2
=m(p, rCs)+s+(b+1/2)(s-1).
ここでm(p, s!)≦s/p+s/p^2+....=s/(p-1)より
m(p, rCs)=m(p, r!/{s!(r-s)!})≧m(p, r)-m(p, s!)≧a-s/(p-1).
よって
m(p, rCs.u^s.D^{(s-1)/2})≧a+b+(b+1/2)(s-1)-s/(p-1)
≧a+b+(s-1)/2-s/4≧a+b+1/4>a+b=m(p, ru). Q.E.D.


補題2. r≧3が奇数ならで, t^2-Du^2=±1ならば,
u_rはDを割り切らない素因数を持つ.

p|Dとすると, t^2=Du^2±1よりpはtを割り切らない. よって
m(p, ru)=m(p, rut^{r-1})=m(p, rC1.u.t^{r-1}D^{(1-1)/2}),
よってm(p, ru)=m(p, v_{r0}).
(2)よりi≧1ならばm(p, v_{r0})=m(p, ru)<m(p, v_{ri}).

よってv_{r0}=NM(NはDを割り切る素数の積, MはD
を割り切らない素数の積)と分解すると,
i≧1ならばN|v_{ri}かつ, p|D→p|v_{ri}/Nとなる.

したがって, (1)よりu_r=m(p, v_{r0})(M+L)(Lは
p|Dとなるすべての素数pで割れる整数)となる.
p|Dならば(p, M)=1かつp|Lなので, (M+L, p)=1.
他方, M+L≧1+1≧2なので, M+LはDを割り切らない
素因数を持つ. Q.E.D.

よって, t^2-Du^2=-1の最小の解をt_1, u_1とおくと,
u_r(r≧3は奇数)は常にDで割り切らない素因数を
もつことがわかります(-1を1に変えても同様).

 ですから, P(n^2+1)≦p_m(p_mはm番目の素数)
となるnすべてを決定するには, D=p_1^{e_1}...p_m^{e_m}
(e_i∈{0, 1, 2})となるすべてのDについてt^2-Du^2=-1の
最小解をすべてチェックすれば十分なことがわかります.
特に(1)の正しさがこれで証明されます.

例えば(2)を解くにはD=2, 5, 13, 2.5, 2.13, 5.13,
2.5^2, 2.13^2, 5.13^2, 2.5.13, 2^2.5.13, 2.5^2.13, 2.5.13^2,
2.5^2.13^2の14個の場合の最小の解を調べれば
十分であることが分かります(D|(n^2+1)より2^2|Dは不可能).

結局P(n^2+1)≦13を満たすnは1, 2, 3, 5, 7, 8, 18, 57, 239の
いずれかであることが示せるので, (2)が正しいことが
分かります.

また, t^2-Du^2=-1のかわりにt^2-Du^2=1を使うと
n^2-1の場合にも同様のことがわかります.
(ここまでで定理の証明は終わり)
4n(n+1)=(2n+1)^2-1より, n(n+1)についても同様のことが言え,
P(n), P(n+1)≦p_mを満たすnをすべて決定することが
できます.

P(n), P(n+1)≦7となるnをすべて決定するには
D=2^e.3^f.5^g.7^h(e, f, g, h∈{0, 1, 2}, e≠0, D≠N^2)を満たす
46個のDについてチェックすればよく,

nは1, 2, 3, 4, 5, 6, 7, 8, 9, 14, 15, 20, 24, 27, 35, 48, 49,
63, 80, 125, 224, 2400, 4374のいずれかであることがわかります.


なお, 今回の問題はC. Stoermer, Quelques theoremes sur
l'equation de Pell x^2-Dy^2=±1 et leurs applications,
Vidensk. Skrift. Mathem.-naturvid. Klasse. 1897. No. 2.
(48 p.p.)に遡る問題で, ここでP(n^2±1)≦Cを満たすnを
すべて決定する方法が記述されています.
(なお上記の証明はS. Chowla, The greatest prime factor
of x^2+1, J. London Math. Soc. 10(1935), 117-120に基づく
もので, この論文では上の方法と, Pell方程式の最小解の
大きさの上界をもちいてP(n^2+1)>Cloglognを証明しています)

一般に整数係数の多項式f(x_1, x_2, ..., x_n)に対して
P(f(x_1, x_2, ..., x_n))の大きさについて評価を与える問題は
非常に難しい問題で, n≧3の場合についてはほとんど
分かっておらず, n=2の場合も斉次式やax^p+by^qといった
特殊な形の多項式についてしか分かっていないようです.

上記のn^2±1に関する結果はこの問題に関する最初の
(部分的, かつ非自明な)結果のようです.

Tomhiro Yamada,
for the honor of the human mind
y64k@chive.ocn.ne.jp