[\img]http://img9.imagepile.net/img9/91439question.jpg[\img]

这个结论应该是对的.

先看简单的情形，函数f(x)是实值函数。首先存在正数p<1,当 \delta < x < 1 时,|f(x)|<p. 这样可以得到分子的估计如下

分子 <= 2\int |f(x)|^n < 2(1-\delta)p^n.

取p'满足 p<p'<1, 由于f(x)是连续的，可以取到一个小的正数a<\delta,他只依赖于f(x),使得|x|<a时，f(x)>p'. 这样可以得到分母的估计如下

分母 > 2\int p'^n=2ap'^n.

于是，极限里的函数 < (1-\delta)p^n/(ap'^n )=(p/p')^n*(constant). 这个constant不依赖于n, 因为p/p'<1,极限为零。这种情形下不需要可微性。

一般情况下，f(x)是一个复值函数，满足一个条件f(-x)=f(x)^*. 这个条件使得积分函数的虚部抵消。
这是对于分子可以用原来的估计，但是分母的估计要更加精细。
可以假设
f(x)=r(x)exp(iq(x)), r(0)=1, q(0)=0;
于是f(x)^n=r^n(x)exp(inq(x)), 由于虚部抵消，分母的积分实际上是
2\int_0^\delta r^n(x)cos(nq(x)), 现在可以取小的b使得x<b时，cos(nq(x))>q' 很接近1，并且 r^n(x)>p'. 由于q(x)可微，b ~ 1/n, 最后由于(1/n)*(p/p')^n趋于零, 原极限为零。

这里还有一些小的细节需要写清楚，但是这里写起来太麻烦。如果想法有错，希望指正。

如果去掉可微性和函数的限制，这个结论没有理由对。

谢谢道德兄的回复
实值函数的情况确实简单
不过复值的情况就有点问题
这是因为
对于 $b<\delta$
$$
\int_0^\delta r^n(x)\cos (nq(x))dx<\int_0^b r^n(x)\cos (nq(x))dx
$$
并不一定成立. 因为我们没法保证被积函数中 $\cos(nq(x))$ 在 $b,\delta$ 上为正.

现在可以取小的b使得x<b时，cos(nq(x))>q' 很接近1
==========
这个不成立。实际上， 当 n 从分大时，cos(nq(x)) 在某种意义上说均匀分布在 [-1,1] 中。从这个角度看，积分会互相抵消掉很大一部分，从而变得难以控制。很有可能不等式并不成立。

网络依然不太顺畅。

TYTLI和GAUGE兄说的没错，我忘掉了分母中在区间 [b,\delta] 上的积分的估计。

但是这一项可以用类似于分子的估计来做。所以它不是其主要贡献的部分。

详细地说，可以取只依赖于f(x)的正数c,使得当 0 < b < c/n 时，
r(x)^n > q^n, cos(nq(x))>q' ~ 1。

注意到条件|f(x)|< 1, 我们可以设在区间 [b,\delta]上函数 f(x)的下界为w,w > -1. 显然我们可以取c充分小，使得 q > |w| 成立。

这样，在区间[b,\delta]上的积分的负值部分可以由|w|^n来控制，当n增长时，他的绝对值增长没有在x=0附近的正值积分快，所以是高阶项。

这样说还是有问题的，现在唯一确定的是如果f(x)是实函数的情形，结论是正确的，但还是要用到刚才的关于负值积分的估计，这个时候不需要可微性。

对于复值函数的情形，结论是否正确依然是未知数，但我倾向于认为可能是对的。

原来的问题是这样的，或许这个容易一点：

[img]http://img10.imagepile.net/img10/35004question1.jpg[\img]

不好意思 命令又打错了

如果 m,m' 都是整数的话，分析如下。
\int [f(x)]^ne^{imx}dx 可以看作 [f(x)]^n 的 Fourier 级数展开的第 m 个系数。乘积函数的Fourier 系数是 Fourier 系数的卷积。因而可以将之明确的写出来进行比较。另外显然可以假设 m'=1.

谢谢 gauge 兄的回复， 这里的 m 和 m'都是整数，可能选取 m'=0 更好一点。
但是 f^n 的 m 项 Fourier 系数并不好计算呀。

f 的 Fourier 系数就是 a_n.
卷积。
若 g,h 的 Fourier 系数分别为 b_i,c_j.
则 gh 的 第 n 个 Fourier 系数为 \sum_{i+j=n} b_ic_j.(级数的卷积)
其中求和取遍所有 i+j=n.