在空间Rⁿ中，若p∈[2, ∞), α∈(0, n)，Ma和Zhao^[1]给出了分数阶薛定谔方程的一般形式有

$ \begin{array}{*{20}{c}} {i{\varphi _t} + \Delta \varphi + p\varphi {{\left| \varphi \right|}^{p - 2}}\left( {\frac{1}{{{{\left| x \right|}^{n - \alpha }}}} * {{\left| \varphi \right|}^p}} \right) = 0}\\ {x \in {{\bf{R}}^n}, t > 0} \end{array} $

(1)

式中φ(t, x)为波函数，其在激光物理、量子力学等不同领域均有着广泛的应用。为了得到方程(1)的解，可以令φ(x, t)=e^iωtu(x), 则方程(1)可转化为Choquard方程

$ \begin{array}{*{20}{c}} {\Delta u - \omega u + pu{{\left| u \right|}^{p - 2}}\left( {\frac{1}{{{{\left| x \right|}^{n - \alpha }}}} * {{\left| u \right|}^p}} \right) = 0}\\ {u \in {H^1}\left( {{{\bf{R}}^n}} \right)} \end{array} $

(2)

关于方程(2)的正解性质，Lions^{[2, 3]}和Lieb^[4]等学者进行了广泛的研究。令ω=1，v= $\frac{1}{{|x{|^{n - \alpha }}}}*|u{|^p}$，则式(2)可转化为

$ \left( {I - \Delta } \right)u = pu{\left| u \right|^{p - 2}}v $

也可转为积分形式

$ \left\{ \begin{array}{l} u\left( x \right) = \int_{{{\bf{R}}^n}} {{G_2}\left( {x - y} \right){{\left| {u\left( y \right)} \right|}^{p - 2}}u\left( y \right)v\left( y \right){\rm{d}}y} \\ v\left( x \right) = \int_{{{\bf{R}}^n}} {\frac{{{u^p}\left( y \right)}}{{{{\left| {x - y} \right|}^{n - \alpha }}}}{\rm{d}}y} \end{array} \right. $

(3)

其中G₂是二阶的Bessel位势核，Ma和Zhao^[1]研究了方程(3)在Rⁿ上正解的径向对称性与单调性。

偏微分方程的对称解问题的研究最早可追溯到20世纪70年代。Serrin^[5]在边界条件

$ \left\{ {\begin{array}{*{20}{c}} {u\left( x \right) = 0}&{x \in \partial \mathit{\Omega }}\\ {\frac{{\partial u}}{{\partial n}} = {\rm{Constant}}}&{x \in \partial \mathit{\Omega }} \end{array}} \right. $

下，利用移动平面法，研究了Laplace方程－Δu(x)=1, x∈Ω解的径向对称性。接下来的几十年里，文献[6, 7]对此类问题进行了更深入的研究。在此基础上，文献[8]利用Hardy-Littlewood-Sobolev不等式研究了Rⁿ中积分方程的对称解问题。进一步地，Li和Wang^[9]在有界区域上研究了积分方程解的对称性。

假设Ω₁⊂Ω₂⊂Rⁿ是一有界开区域，其中∂Ω₁, ∂Ω₂∈C¹，并且∂Ω₁∩∂Ω₂为空集。分数阶薛定谔方程(1)可转化为包括二阶Bessel位势和分数阶Riesz位势的积分方程组(3)。本文尝试在环形区域上研究以下包含分数阶Bessel位势和分数阶Riesz位势的积分方程组

$ \left\{ \begin{array}{l} u\left( x \right) = \int_{{{\bf{R}}^n}} {{G_\alpha }\left( {x - y} \right){{\left| {u\left( y \right)} \right|}^{p - 2}}u\left( y \right)v\left( y \right){\rm{d}}y} \\ \;\;\;\;\;\;\;x \in \mathit{\Omega }: = {\mathit{\Omega }_2}\backslash {{\mathit{\bar \Omega }}_1}\\ v\left( x \right) = \int_{{{\bf{R}}^n}} {\frac{{{u^p}\left( y \right)}}{{{{\left| {x - y} \right|}^{n - \alpha }}}}{\rm{d}}y} \\ \;\;\;\;\;\;\;x \in \mathit{\Omega }: = {\mathit{\Omega }_2}\backslash {{\mathit{\bar \Omega }}_1} \end{array} \right. $

(4)

其中p≥2, 0 < α < n。本文将证明如下定理。

定理1  假设常数t, e, s, q满足

$ \frac{1}{t} \in \left[ {\frac{1}{s}, \frac{1}{s} + \frac{\alpha }{n}} \right] \cap \left[ {\frac{\alpha }{n}, 1} \right] $

(5)

$ \frac{1}{e} \in \left[ {\frac{1}{q}, \frac{1}{q} + \frac{\alpha }{n}} \right] \cap \left[ {\frac{\alpha }{n}, 1} \right] $

(6)

且

$ s, q > 1, \frac{1}{q} + \frac{{p - 1}}{s} = \frac{1}{t}, \frac{{p - 1}}{s} = \frac{1}{e} $

(7)

若(u, v)∈L^s(Ω)×L^q(Ω)是方程(4)的正解，且满足边界条件

$ \left\{ \begin{array}{l} u\left( x \right) = {C_1} > 0, v\left( x \right) = {C_2} > 0, \;\;\;\;\;\;x \in {{\mathit{\bar \Omega }}_1}\\ u\left( x \right) = v\left( x \right) = 0\;\;\;\;\;\;\;\;\;x \in {{\bf{R}}^n}\backslash {\mathit{\Omega }_2} \end{array} \right. $

则Ω₁和Ω₂一定为同心球，(u, v)是径向对称的，且随着对称点的距离增加而单调递减。

推论1  当Ω₁为空集时，由定理1可得方程(4)在有界区域Ω₂上正解的径向对称性和单调性。

容易验证，满足条件式(5-7)的常数t, e, s, q是存在的。比如在R³中，方程(1)为非线性Choquard方程

$ \begin{array}{*{20}{c}} {i{\varphi _t} + \Delta \varphi + 2\varphi \left( {\frac{1}{{\left| x \right|}} * {{\left| \varphi \right|}^2}} \right) = 0}&{x \in {{\bf{R}}^3}, t > 0} \end{array} $

类似引言推导，令φ(x, t)=e^iωtu(x)，上述方程可转化为

$ \left\{ \begin{array}{l} \Delta u - u + 2uv = 0\\ \Delta v = {u^2} \end{array} \right. $

即n=3, p=2, α=2。此时可取q=3, s= $\frac{3}{2}$, t=1, e= $\frac{3}{2}$，满足条件(5—7)。

1 主要引理

下面给出后续证明中需要用到的Bessel位势和Riesz位势的Hardy-Littlewood-Sobolev不等式。Cheng，Huang和Li在文献[10]的式(1.2)中给出了关于Riesz位势的H-L-S不等式。

引理1   (Riesz位势的H-L-S不等式)令0 < α < n，1 < p < q < +∞，对任意的f∈L^p(Rⁿ)，有

$ {\left\| {\int_{{{\bf{R}}^n}} {\frac{{f\left( y \right)}}{{{{\left| {x - y} \right|}^{n - \alpha }}}}{\rm{d}}y} } \right\|_{{L^q}\left( {{{\bf{R}}^n}} \right)}} \le C{\left\| f \right\|_{{L^p}\left( {{{\bf{R}}^n}} \right)}} $

其中$\frac{1}{p} - \frac{\alpha }{n} \le \frac{1}{q}$，常数C=C(p, q, n)。

Huang，Li和Wang在文献[11]的定理2.3中给出了关于Bessel位势的H-L-S不等式，也可参考文献[1]的式(8)。

引理2   (Bessel位势的H-L-S不等式)令0 < α < n，1 < p < r < +∞，对任意的f∈L^p(Rⁿ)，有

$ {\left\| {\int_{{{\bf{R}}^n}} {{G_\alpha }\left( {x - y} \right)f\left( y \right){\rm{d}}y} } \right\|_{{L^r}\left( {{{\bf{R}}^n}} \right)}} \le C{\left\| f \right\|_{{L^p}\left( {{{\bf{R}}^n}} \right)}} $

其中$\frac{1}{p} - \frac{\alpha }{n} \le \frac{1}{r}$，常数C=C(r, q, n)，其中G_α定义为

$ {G_\alpha }\left( x \right) = \frac{1}{{\gamma \left( \alpha \right)}}\int_0^\infty {\exp \left( { - \frac{{{\rm{ \mathit{ π} }}{{\left| x \right|}^2}}}{\delta }} \right)\exp \left( { - \frac{\delta }{{4{\rm{ \mathit{ π} }}}}} \right){\delta ^{\frac{{\alpha - n}}{2}}}\frac{{{\rm{d}}\delta }}{\delta }} $

$\gamma \left( \alpha \right) = {\left( {4{\rm{ \mathit{ π} }}} \right)^{\frac{\alpha }{2}}}\mathit{\Gamma }\left( {\frac{\alpha }{2}} \right)$，且α>0。

2 主要结果

下面用移动平面法来证明本文的主要结果。对任意的λ∈ R，定义T_λ:={(x₁, …, x_n)∈Ω, x₁=λ}作为移动平面。下面给出一些符号说明：

$ \begin{array}{*{20}{c}} {{x^\lambda } = \left( {2\lambda - {x_1}, \cdots , {x_n}} \right), {u_\lambda }\left( x \right) = }\\ {u\left( {{x^\lambda }} \right), {v_\lambda }\left( x \right) = v\left( {{x^\lambda }} \right), } \end{array} $

$ {A_\lambda } = \left\{ {x:{x_1} > \lambda } \right\} $

$ {\mathit{\Sigma} _\lambda } = \left\{ {x:{x_1} > \lambda ,x \in {\mathit{\Omega }_2}\backslash {\mathit{\Omega }_1},{x^\lambda } \in {\mathit{\Omega }_2}\backslash {\mathit{\Omega }_1}} \right\} $

$ {{\mathit{\Sigma} '}_\lambda } = \left\{ {x:{x^\lambda } \in {\mathit{\Sigma} _\lambda }} \right\} $

$ {E_\lambda } = \left\{ {x:{x_1} > \lambda ,x \in {{\bf{R}}^n}\backslash {\mathit{\Omega }_2},{x^\lambda } \in {{\bf{R}}^n}\backslash {\mathit{\Omega }_2}} \right\} $

$ {{E'}_\lambda } = \left\{ {x:{x^\lambda } \in {E_\lambda }} \right\} $

$ {\mathit{\Omega }_\lambda } = \left\{ {x:{x_1} > \lambda ,x \in {{\bf{R}}^n}\backslash {\mathit{\Omega }_2},{x^\lambda } \in {\mathit{\Omega }_2}} \right\} $

$ {{\mathit{\Omega '}}_\lambda } = \left\{ {x:{x^\lambda } \in {\mathit{\Omega }_\lambda }} \right\} $

$ {D_\lambda } = \left\{ {x:{x_1} > \lambda ,x \in {\mathit{\Omega }_2}\backslash {\mathit{\Omega }_1},{x^\lambda } \in {\mathit{\Omega }_1}} \right\} $

$ {{D'}_\lambda } = \left\{ {x:{x^\lambda } \in {\mathit{D}_\lambda }} \right\} $

$ {P_\lambda } = \left\{ {x:{x_1} > \lambda ,x \in {\mathit{\Omega }_1},{x^\lambda } \in {\mathit{\Omega }_1}} \right\} $

$ {{P'}_\lambda } = \left\{ {x:{x^\lambda } \in {\mathit{P}_\lambda }} \right\} $

将平面T_λ从λ=+∞移向λ=－∞，在这个过程中，比较u(x)和u(x^λ)，v(x)和v(x^λ)的大小。记λ₀为T_λ第一次和∂Ω₂相切时的λ的值。由边界条件，很显然，对任意的λ≥λ₀，有u(x^λ)≥u(x), v(x^λ)≥v(x), ∀x∈A_λ。

接下来把T_λ从λ=λ₀向λ=－∞移动，当出现下列4种情况之一时，停止移动，并记此时的λ为${\hat \lambda }$：①$\partial \left( {{E'_\lambda } \cup {D'_\lambda }} \right)$∩∂Ω₂与∂Ω₂相切于点${\hat x}$，但${\hat x}$不属于${T_{\mathord{\buildrel{\lower3pt\hbox{$\scriptscriptstyle\frown$}} \over \lambda } }}$；②T_λ与∂Ω₂正交于点${\hat x}$，${\hat x}$属于${T_{\mathord{\buildrel{\lower3pt\hbox{$\scriptscriptstyle\frown$}} \over \lambda } }}$；③ $\partial {P'_\lambda }$∩∂Ω₁与∂Ω₁相切于点${\hat x}$，但${\hat x}$不属于${T_{\mathord{\buildrel{\lower3pt\hbox{$\scriptscriptstyle\frown$}} \over \lambda } }}$；④T_λ与∂Ω₁正交于点${\hat x}$，${\hat x}$属于${T_{\mathord{\buildrel{\lower3pt\hbox{$\scriptscriptstyle\frown$}} \over \lambda } }}$。

由λ的定义，对任意的λ∈[${\hat \lambda }$, λ₀]，有(Σ_λ∪D_λ)⊂Ω₂, A_λ=Σ_λ∪D_λ∪Ω_λ∪E_λ∪P_λ。

首先，给出一个在移动平面法中起着非常重要作用的引理。

引理3  对任意的${\hat \lambda }$ ≤λ < λ₀, 有

$ \begin{array}{*{20}{c}} {u\left( {{x^\lambda }} \right) - u\left( x \right) = \int_{{A_\lambda }} {{g_\alpha }\left( {x - y} \right)\left[ {{{\left| {u\left( {{y^\lambda }} \right)} \right|}^{p - 2}}u\left( {{y^\lambda }} \right) \cdot } \right.} }\\ {\left. {v\left( {{y^\lambda }} \right) - {{\left| {u\left( y \right)} \right|}^{p - 2}}u\left( y \right)v\left( y \right)} \right]{\rm{d}}y} \end{array} $

(8)

$ \begin{array}{*{20}{c}} {v\left( {{x^\lambda }} \right) - v\left( x \right) = \int_{{A_\lambda }} {\left( {\frac{1}{{{{\left| {x - y} \right|}^{n - \alpha }}}} - \frac{1}{{{{\left| {{x^\lambda } - y} \right|}^{n - \alpha }}}}} \right)} \cdot }\\ {\left[ {{u^p}\left( {{y^\lambda }} \right) - {u^p}\left( y \right)} \right]{\rm{d}}y} \end{array} $

(9)

其中A_λ=Σ_λ∪D_λ∪Ω_λ∪E_λ∪P_λ，且g_α(x－y)=G_α(x－y)－G_α(x^λ－y)。这是因为对任意的λ∈[ ${\hat \lambda }$, λ₀)，有G_α(x－y^λ)=G_α(x^λ－y), G_α(x^λ－y^λ)=G_α(x－y)，|x－y^λ| = |x^λ－y |，|x^λ－y^λ| = |x－y|。

把定理1的证明分为以下几步。首先，证明当T_λ移动一小段距离后，也就是存在常数λ₁，当λ∈[λ₁, λ₀)，有

$ u\left( {{x^\lambda }} \right) \ge u\left( x \right), v\left( {{x^\lambda }} \right) \ge v\left( x \right), \forall x \in {A_\lambda } $

(10)

引理4  存在常数λ₁，使得对任意的λ∈[λ₁, λ₀)，有u(x^λ)≥u(x), v(x^λ)≥v(x), ∀x∈A_λ。

证明   对任意的λ∈[λ₁, λ₀)，由边界条件u(x)=C₁, x∈Ω₁; u(x)=0, x∈ Rⁿ\Ω₂，v(x)=C₂, x∈Ω₁; v(x)=0, x∈ Rⁿ\Ω₂有

$ \left\{ \begin{array}{l} u\left( {{x^\lambda }} \right) \equiv u\left( x \right) = {C_1}\;\;\;\;\forall x \in {P_\lambda }\\ u\left( {{x^\lambda }} \right) > u\left( x \right) \equiv 0\;\;\;\;\forall x \in {\mathit{\Omega }_\lambda }\\ u\left( {{x^\lambda }} \right) \equiv u\left( x \right) \equiv 0\;\;\;\;\forall x \in {E_\lambda }\\ u\left( {{x^\lambda }} \right) \equiv {C_1} > u\left( x \right)\;\;\;\;\forall x \in {D_\lambda } \end{array} \right. $

类似地，v(x)也有相同的边界情况。仅需考虑x∈Σ_λ这种情况。定义Σ_λ^u={x∈Σ_λ:u(x)>u(x^λ)}, Σ_λ^v={x∈Σ_λ: v(x)>v(x^λ)}，则对任意的x∈Σ_λ^u，有

$ \begin{array}{*{20}{c}} {u\left( x \right) - u\left( {{x^\lambda }} \right) \le \int_{{\Sigma _\lambda }} {{g_\alpha }\left( {x,y} \right)\left[ {{{\left| {u\left( y \right)} \right|}^{p - 2}}u\left( y \right) \cdot } \right.} }\\ {\left. {v\left( y \right) - {{\left| {u\left( y \right)} \right|}^{p - 2}}u\left( {{y^\lambda }} \right)v\left( {{y^\lambda }} \right)} \right]{\rm{d}}y} \end{array} $

且

$ \begin{array}{*{20}{c}} {v\left( x \right) - v\left( {{x^\lambda }} \right) \le \int_{{\Sigma _\lambda }} {\frac{1}{{{{\left| {x - y} \right|}^{n - \alpha }}}}\left( {{u^p}\left( y \right) - } \right.} }\\ {\left. {{u^p}\left( {{y^\lambda }} \right)} \right){\rm{d}}y} \end{array} $

由引理2

$ \begin{array}{l} u\left( x \right) - u\left( {{x^\lambda }} \right) \le \int_{{\Sigma _\lambda }} {{g_\alpha }\left( {x,y} \right)\left[ {{{\left| {u\left( y \right)} \right|}^{p - 2}}u\left( y \right) \cdot } \right.} \\ \left. {v\left( y \right) - {{\left| {u\left( y \right)} \right|}^{p - 2}}u\left( {{y^\lambda }} \right)v\left( {{y^\lambda }} \right)} \right]{\rm{d}}y \le \\ \int_{{\Sigma _\lambda }} {{g_\alpha }\left( {x - y} \right)\left[ {{u^{p - 1}}\left( y \right)v\left( y \right) - {u^{p - 1}}\left( {{y^\lambda }} \right) \cdot } \right.} \\ \left. {v\left( {{y^\lambda }} \right)} \right]{\rm{d}}y \le \int_{{\Sigma _\lambda }} {{G_\alpha }\left( {x - y} \right)\left[ {{u^{p - 1}}\left( {{y^\lambda }} \right) \cdot } \right.} \\ \left. {{{\left( {v\left( y \right) - v\left( {{y^\lambda }} \right)} \right)}^ + } + v\left( y \right){{\left( {{u^{p - 1}}\left( y \right) - {u^{p - 1}}\left( {{y^\lambda }} \right)} \right)}^ + }} \right]{\rm{d}}y \end{array} $

由Hardy-Littlewood-Sobolev不等式，得‖u－u_λ‖_L^s(Σλ^u)≤‖u－u_λ‖_L^s(Σλ)≤C‖u_λ^p－1(v－v_λ)⁺+v(u^p－1－u_λ^p－1)⁺‖_L^t(Σλ)≤C‖u_λ^p－1(v－v_λ)‖_L^t(Σλ^v)+C‖v(u^p－1－u_λ^p－1)‖_L^t(Σλ^u)其中$0 \le \frac{1}{t} - \frac{\alpha }{n} \le \frac{1}{s} \le \frac{1}{t}$，也就是$\frac{1}{t} \in [\frac{1}{s}, \frac{1}{s} + \frac{\alpha }{n}] \cap [\frac{\alpha }{n}, 1]$。

由Hölder不等式

$ \begin{array}{*{20}{c}} {{{\left\| {u - {u_\lambda }} \right\|}_{{L^s}\left( {\Sigma _\lambda ^u} \right)}} \le C{{\left\| {u_\lambda ^{p - 1}\left( {v - {v_\lambda }} \right)} \right\|}_{{L^t}\left( {\Sigma _\lambda ^v} \right)}} + }\\ {C{{\left\| {v{u^{p - 2}}\left( {u - {u_\lambda }} \right)} \right\|}_{{L^t}\left( {\Sigma _\lambda ^u} \right)}} \le }\\ {C\left\| u \right\|_{{L^s}\left( {{{\Sigma '}_\lambda }} \right)}^{p - 1}{{\left\| {v - {v_\lambda }} \right\|}_{{L^q}\left( {\Sigma _\lambda ^v} \right)}} + C{{\left\| v \right\|}_{{L^q}\left( {\Sigma _\lambda ^v} \right)}} \cdot }\\ {\left\| u \right\|_{{L^s}\left( {\Sigma _\lambda ^v} \right)}^{p - 2}{{\left\| {u - {u_\lambda }} \right\|}_{{L^s}\left( {\Sigma _\lambda ^u} \right)}}} \end{array} $

其中$s, q > 1, \frac{1}{q} + \frac{{p - 1}}{s} = \frac{1}{t}$。

类似地，有

$ \begin{array}{*{20}{c}} {{{\left\| {v - {v_\lambda }} \right\|}_{{L^q}\left( {\Sigma _\lambda ^v} \right)}} \le C{{\left\| {{u^p} - u_\lambda ^p} \right\|}_{{L^e}\left( {\Sigma _\lambda ^u} \right)}} \le }\\ {C\left\| u \right\|_{{L^s}\left( {\Sigma _\lambda ^u} \right)}^{p - 1}{{\left\| {u - {u_\lambda }} \right\|}_{{L^s}\left( {\Sigma _\lambda ^u} \right)}}} \end{array} $

其中$0 \le \frac{1}{e} - \frac{\alpha }{n} \le \frac{1}{q} \le \frac{1}{e}$，也就是$\frac{1}{e} \in [\frac{1}{q}, \frac{1}{q} + \frac{\alpha }{n}] \cap [\frac{\alpha }{n}, 1]$, 且$\frac{{p - 1}}{s} = \frac{1}{e}$。

将上述两个不等式结合起来，可以得到

$ \begin{array}{*{20}{c}} {{{\left\| {u - {u_\lambda }} \right\|}_{{L^s}\left( {\Sigma _\lambda ^u} \right)}} \le C\left( {\left\| u \right\|_{{L^s}\left( {{{\Sigma '}_\lambda }} \right)}^{p - 1}\left\| u \right\|_{{L^s}\left( {\Sigma _\lambda ^u} \right)}^{p - 1} + } \right.}\\ {\left. {{{\left\| v \right\|}_{{L^q}\left( {\Sigma _\lambda ^v} \right)}}\left\| u \right\|_{{L^s}\left( {\Sigma _\lambda ^u} \right)}^{p - 2}} \right){{\left\| {u - {u_\lambda }} \right\|}_{{L^s}\left( {\Sigma _\lambda ^u} \right)}}} \end{array} $

(11)

$ \begin{array}{*{20}{c}} {{{\left\| {v - {v_\lambda }} \right\|}_{{L^q}\left( {\Sigma _\lambda ^v} \right)}} \le \frac{{C\left\| u \right\|_{{L^s}\left( {{{\Sigma '}_\lambda }} \right)}^{p - 1}\left\| u \right\|_{{L^s}\left( {\Sigma _\lambda ^u} \right)}^{p - 1}}}{{1 - C\left\| u \right\|_{{L^s}\left( {\Sigma _\lambda ^u} \right)}^{p - 2}{{\left\| v \right\|}_{{L^q}\left( {\Sigma _\lambda ^v} \right)}}}} \cdot }\\ {{{\left\| {v - {v_\lambda }} \right\|}_{{L^q}\left( {\Sigma _\lambda ^v} \right)}}} \end{array} $

由u∈L^s(Ω)和v∈L^q(Ω)可知, 存在常数λ₁，满足λ₀－λ₁>0，对任意的λ∈[λ₁, λ₀)，使得|Σ'_λ|, |Σ_λ^u|, |Σ_λ^v|充分小，且满足

$ \begin{array}{*{20}{c}} {C\left( {\left\| u \right\|_{{L^s}\left( {{{\Sigma '}_\lambda }} \right)}^{p - 1}\left\| u \right\|_{{L^s}\left( {\Sigma _\lambda ^v} \right)}^{p - 1} + } \right.}\\ {\left. {{{\left\| v \right\|}_{{L^q}\left( {\Sigma _\lambda ^v} \right)}}\left\| u \right\|_{{L^s}\left( {\Sigma _\lambda ^u} \right)}^{p - 2}} \right) \le \frac{1}{2}}\\ {\frac{{C\left\| u \right\|_{{L^s}\left( {{{\Sigma '}_\lambda }} \right)}^{p - 1}\left\| u \right\|_{{L^s}\left( {\Sigma _\lambda ^u} \right)}^{p - 1}}}{{1 - C\left\| u \right\|_{{L^s}\left( {\Sigma _\lambda ^u} \right)}^{p - 2}{{\left\| v \right\|}_{{L^q}\left( {\Sigma _\lambda ^v} \right)}}}} \le \frac{1}{2}} \end{array} $

这就意味着对任意的λ∈[λ₁, λ₀)，‖u－u_λ‖_L^s(Σλ^u)=0, ‖v－v_λ‖_L^q(Σλ^v)=0。因此Σ_λ^u和Σ_λ^v一定是空集，这就完成了该引理的证明。

在保持式(10)成立的同时，一直向左移动，将证明平面T_λ能被移动到λ= ${\hat \lambda }$。

引理5  定义$\bar \lambda : = \inf \{ \lambda \in [\hat \lambda , {\lambda _0}], u\left( {{x^\lambda }} \right)$≥u(x), u(x^λ)≥u(x), x∈Σ_λ}，则$\bar \lambda = \hat \lambda $。

证明  同样仅需考虑x∈Σ_λ的这种情况。假设T_λ能一直移动，直到$\bar \lambda = \hat \lambda $，且满足式(10)，接下来将证明T_λ能被继续移动，也就是存在ε使得

$ \begin{array}{*{20}{c}} {u\left( {{x^\lambda }} \right) \ge u\left( x \right), v\left( {{x^\lambda }} \right) \ge v\left( x \right)}\\ {x \in {\Sigma _\lambda }, \forall \lambda \ge \bar \lambda - \varepsilon > \hat \lambda } \end{array} $

(12)

这就与λ的定义矛盾。

定义$\mathit{\Sigma }_{\bar \lambda }^u = \{ x \in {\Sigma _{\bar \lambda }}:u\left( x \right) > u\left( {{x^{\bar \lambda }}} \right)\} $, $\mathit{\Sigma }_{\bar \lambda }^v = \{ x \in {\Sigma _{\bar \lambda }}:v\left( x \right) > v\left( {{x^{\bar \lambda }}} \right)\} $，由测度论理论，有

$ \left| {\mathit{\Sigma} _{\bar \lambda }^u} \right| = 0, \mathop {\lim }\limits_{\lambda \to {{\bar \lambda }^ + }} \Sigma _\lambda ^u \subset \Sigma _{\bar \lambda }^u, \left| {\Sigma _{\bar \lambda }^v} \right| = 0, \mathop {\lim }\limits_{\lambda \to {{\bar \lambda }^ + }} \Sigma _\lambda ^v \subset \Sigma _{\bar \lambda }^v $

(13)

因此可以选择足够小的ε>0，满足$\hat \lambda \; < \;\bar \lambda - \in < \bar \lambda $, 使得对任意的$\lambda \in [\bar \lambda - \varepsilon , \bar \lambda ), \mathit{\Sigma }_\lambda ^u|, |\mathit{\Sigma }_\lambda ^v|, \left\| u \right\|_{{L^s}\left( {\mathit{\Sigma }_\lambda ^v} \right)}^{}, {\left\| u \right\|_{{L^q}\left( {\mathit{\Sigma }_\lambda ^v} \right)}}$充分小，所以$C(\left\| u \right\|_{{L^s}\left( {{\rm{\Sigma '}}_\lambda ^{}} \right)}^{p - 1} \cdot \left\| u \right\|_{{L^s}\left( {{\rm{\Sigma }}_\lambda ^v} \right)}^{p - 1} + {\left\| v \right\|_{{L^q}\left( {{\rm{\Sigma }}_\lambda ^v} \right)}}\left\| u \right\|_{{L^s}\left( {{\rm{\Sigma }}_\lambda ^v} \right)}^{p - 2} \le \frac{1}{2}$，$\frac{{C\left\| u \right\|_{{L^s}({\Sigma ^\prime }_\lambda )}^{p - 1}\left\| u \right\|_{{L^s}\left( {{\rm{\Sigma }}_\lambda ^v} \right)}^{p - 1}}}{{1 - C\left\| u \right\|_{{L^s}\left( {{\rm{\Sigma }}_\lambda ^v} \right)}^{p - 2}{{\left\| v \right\|}_{{L^q}\left( {{\rm{\Sigma }}_\lambda ^v} \right)}}}} \le \frac{1}{2}$，类似于引理4，对任意的λ∈[λ －∈, λ)，‖u－u_λ‖_L^s(Σλ^u)=‖v－v_λ‖_L^q(Σλ^v)=0。

即对任意的λ∈[λ －∈, λ)，Σ_λ^u和Σ_λ^v是空集。完成该引理的证明。

最后, 证明环形区域(4)的解是关于${T_{\hat \lambda }}$对称的。又因为x₁的方向是任意的，可以推断Ω₁和Ω₂是同心球。并且，u(x)和v(x)关于某些点中心对称，且随着中心点的距离增大而单调递减。

引理6

${\mathit{\Sigma }_{\hat \lambda }} \cup \mathit{\Sigma }{\mathit{'}_{\hat \lambda }} \cup {\mathit{D}_{\hat \lambda }} \cup \mathit{D}{\mathit{'}_{\hat \lambda }} = {\mathit{\Omega }_2}\backslash {\mathit{\Omega }_1}, {\mathit{P}_{\hat \lambda }} \cup \mathit{P}{\mathit{'}_{\hat \lambda }} = {\mathit{\Omega }_1}$, 并且有$\mathit{u}\left( x \right) \equiv {u_{\hat \lambda }}\left( x \right), v\left( x \right) \equiv {v_{\hat \lambda }}\left( x \right), \forall x \in {\mathit{\Omega }_2}\backslash {\mathit{\Omega }_1}$。

证明  首先证明Ω₁和Ω₂关于${T_{\hat \lambda }}$对称。反证，若不对称，即${\mathit{\Omega }_{\hat \lambda }} \cup {\mathit{D}_{\hat \lambda }}$不是空集。

在情况①和③中，有

$ \begin{array}{*{20}{c}} {{u_{\hat \lambda }}\left( {\hat x} \right) - u\left( {\hat x} \right) \ge \int_{{D_{\hat \lambda }}} {{g_\alpha }\left( {\hat x,y} \right)\left[ {C_1^{p - 1}{C_2} - } \right.} }\\ {\left. {{{\left| {u\left( y \right)} \right|}^{p - 2}}u\left( y \right)v\left( y \right)} \right]{\rm{d}}y + }\\ {\int_{{\Omega _{\hat \lambda }}} {{g_\alpha }\left( {\hat x,y} \right){{\left| {{u_{\hat \lambda }}\left( y \right)} \right|}^{p - 2}}{u_{\hat \lambda }}\left( y \right){v_{\hat \lambda }}\left( y \right){\rm{d}}y} > 0} \end{array} $

$ \begin{array}{*{20}{c}} {{v_{\hat \lambda }}\left( {\hat x} \right) - v\left( {\hat x} \right) \ge \int_{{D_{\hat \lambda }}} {\left( {\frac{1}{{{{\left| {\hat x - y} \right|}^{n - \alpha }}}} - \frac{1}{{{{\left| {{{\hat x}^{\hat \lambda }} - y} \right|}^{n - \alpha }}}}} \right)} \times }\\ {\left( {C_1^p - {u^p}\left( y \right)} \right){\rm{d}}y + }\\ {\int_{{\Omega _{\hat \lambda }}} {\left( {\frac{1}{{{{\left| {\hat x - y} \right|}^{n - \alpha }}}} - \frac{1}{{{{\left| {{{\hat x}^{\hat \lambda }} - y} \right|}^{n - \alpha }}}}} \right)u_{\hat \lambda }^p\left( y \right)} > 0} \end{array} $

但是由边界条件，u(x)=C₁, x∈Ω₁, u(x)=0, x∈ Rⁿ\Ω₂, v(x)=C₂, x∈Ω₁, v(x)=0, x∈ Rⁿ\Ω₂得${u_{\hat \lambda }}\left( {\hat x} \right) = u\left( {\hat x} \right), {v_{\hat \lambda }}\left( {\hat x} \right) = v\left( {\hat x} \right)$。从而矛盾，得证。

在情况②和④中，假设${T_{\hat \lambda }}$与∂Ω₁或∂Ω₂正交于点$\hat x \in {T_{\hat \lambda }}$，这意味着

$ {\partial _\nu }u\left( {\hat x} \right) = 0, {\partial _\nu }v\left( {\hat x} \right) = 0 $

(14)

令$\{ {x^m}\} _{m = 1}^\infty = 1 \subset {\Sigma _{\hat \lambda }}$使得x^m在x₁方向上有${x^m} \to \hat x$。不失一般性，假设存在一个球$B \subset \left( {{\mathit{\Omega }_{\hat \lambda }} \cup {\mathit{D}_{\hat \lambda }}} \right)$，假设球B在$\{ {x^m}\} _{m = 1}^\infty $左侧，则存在ε>0，使得${\left( {{x^m}} \right)^{\hat \lambda }} = \left( {\left( {{x^m}} \right)_1^{\hat \lambda }, \cdots , \left( {{x^m}} \right)_n^{\hat \lambda }} \right)$，且y=(y₁, …, y_n)∈B，有

$ \left( {{x^m}} \right)_1^{\hat \lambda } - {y_1} \ge \varepsilon $

对任意的y∈B，若${\overline x ^m}$介于${\left( {{x^m}} \right)^{\hat \lambda }}$和x^m之间，使得

$ \begin{array}{*{20}{c}} {{G_\alpha }\left( {{{\left( {{x^m}} \right)}^{\hat \lambda }} - y} \right) - {G_\alpha }\left( {{x^m} - y} \right) = }\\ {\frac{1}{{\gamma \left( \alpha \right)}}\int_0^\infty {\left[ {\exp \left( { - \frac{{{\rm{ \mathsf{ π} }}{{\left| {{{\left( {{x^m}} \right)}^{\hat \lambda }} - y} \right|}^2}}}{\delta }} \right) - } \right.} }\\ {\left. {\exp \left( { - \frac{{{\rm{ \mathsf{ π} }}{{\left| {{x^m} - y} \right|}^2}}}{\delta }} \right)} \right]\exp \left( { - \frac{\delta }{{4{\rm{ \mathsf{ π} }}}}} \right){\delta ^{\frac{{\alpha - n}}{2}}}\frac{{{\rm{d}}\delta }}{\delta } = }\\ {\frac{1}{{\gamma \left( \alpha \right)}}\int_0^\infty {\exp \left( { - \frac{{{\rm{ \mathsf{ π} }}{{\left| {{{\bar x}^m} - y} \right|}^2}}}{\delta }} \right)} \cdot }\\ {\frac{{ - 2{\rm{ \mathsf{ π} }}\left( {{{\bar x}^m} - y} \right)\left[ {{{\left( {{x^m}} \right)}^{\hat \lambda }} - {x^m}} \right]}}{\delta }\exp \left( { - \frac{\delta }{{4{\rm{ \mathsf{ π} }}}}} \right){\delta ^{\frac{{\alpha - n}}{2}}}\frac{{{\rm{d}}\delta }}{\delta }} \end{array} $

因为${\left( {{x^m}} \right)_1^{\hat \lambda }} \le \overline x _1^m \le x_1^m$，有

$ \begin{array}{*{20}{c}} {\left( {{{\bar x}^m} - y} \right)\left[ {{x^m} - {{\left( {{x^m}} \right)}^{\hat \lambda }}} \right] = \left( {\bar x_1^m - {y_1}} \right)\left[ {x_1^m - \left( {{x^m}} \right)_1^{\hat \lambda }} \right] \ge }\\ {\varepsilon \left[ {x_1^m - \left( {{x^m}} \right)_1^{\hat \lambda }} \right] = \varepsilon \left| {{x^m} - {{\left( {{x^m}} \right)}^{\hat \lambda }}} \right|} \end{array} $

则

$ \begin{array}{*{20}{c}} {{\mu _{\hat \lambda }}\left( {{x^m}} \right) - u\left( {{x^m}} \right) \ge }\\ {\int_{{D_{\hat \lambda }}} {{g_\alpha }\left( {{x^m},y} \right)\left[ {C_1^{p - 1}{C_2} - {{\left| {u\left( y \right)} \right|}^{p - 2}}u\left( y \right)v\left( y \right)} \right]{\rm{d}}y} + }\\ {\int_{{\Omega _{\hat \lambda }}} {{g_\alpha }\left( {{x^m},y} \right){{\left| {{u_{\hat \lambda }}\left( y \right)} \right|}^{p - 2}}{u_{\hat \lambda }}\left( y \right){v_{\hat \lambda }}\left( y \right){\rm{d}}y{\rm{d}}y} \ge }\\ {\frac{{2{\rm{ \mathsf{ π} }}\varepsilon }}{{\gamma \left( \alpha \right)}}\int_{{D_{\hat \lambda }}} {\left[ {C_1^{p - 1}{C_2} - {{\left| {u\left( y \right)} \right|}^{p - 2}}u\left( y \right)v\left( y \right)} \right]M{\rm{d}}y} + }\\ {\frac{{2{\rm{ \mathsf{ π} }}\varepsilon }}{{\gamma \left( \alpha \right)}}\int_{{\Omega _{\hat \lambda }}} {{{\left| {{u_{\hat \lambda }}\left( y \right)} \right|}^{p - 2}}{u_{\hat \lambda }}\left( y \right){v_{\hat \lambda }}\left( y \right)\mathit{M}{\rm{d}}y} } \end{array} $

其中

$ \begin{array}{*{20}{c}} {M = \int_0^\infty {\exp \left( {\frac{{ - {\rm{ \mathsf{ π} }}{{\left| {{{\bar x}^m} - y} \right|}^2}}}{\delta }} \right)\left| {{x^m} - {{\left( {{x^m}} \right)}^{\hat \lambda }}} \right|} \cdot }\\ {\exp \left( {\frac{{ - \delta }}{{4{\rm{ \mathsf{ π} }}}}} \right){\delta ^{\frac{{\alpha - n}}{2}}}\frac{{{\rm{d}}\delta }}{\delta }} \end{array} $

这意味着

$ \mathop {\lim \inf }\limits_{m \to \infty } \frac{{{u_{\hat \lambda }}\left( {{x^m}} \right) - u\left( {{x^m}} \right)}}{{\left| {{{\left( {{x^m}} \right)}^{\hat \lambda }} - {x^m}} \right|}} > 0 $

这与式(14)矛盾。

类似地，对任意的y∈B，若${\overline x ^m}$介于${\left( {{x^m}} \right)^{\hat \lambda }}$和x^m之间，有

$ \begin{array}{*{20}{c}} {\frac{1}{{{{\left| {{x^m} - y} \right|}^{n - \alpha }}}} - \frac{1}{{{{\left| {{{\left( {{x^m}} \right)}^{\hat \lambda }} - y} \right|}^{n - \alpha }}}} = }\\ {\frac{{ - \left( {n - \alpha } \right)\left( {{{\bar x}^m} - y} \right)}}{{{{\left| {{{\bar x}^m} - y} \right|}^{n - \alpha + 2}}}}\left[ {{x^m} - {{\left( {{x^m}} \right)}^{\hat \lambda }}} \right]} \end{array} $

则

$ \begin{array}{*{20}{c}} {{v_{\hat \lambda }}\left( {{x^m}} \right) - v\left( {{x^m}} \right) \ge }\\ {\int_{{D_{\hat \lambda }}} {\left( {\frac{1}{{{{\left| {{x^m} - y} \right|}^{n - \alpha }}}} - \frac{1}{{{{\left| {{{\left( {{x^m}} \right)}^{\hat \lambda }} - y} \right|}^{n - \alpha }}}}} \right)} \cdot }\\ {\left( {C_1^p - {u^p}\left( y \right)} \right){\rm{d}}y + }\\ {\int_{{\Omega _{\hat \lambda }}} {\left( {\frac{1}{{{{\left| {{x^m} - y} \right|}^{n - \alpha }}}} - \frac{1}{{{{\left| {{{\left( {{x^m}} \right)}^{\hat \lambda }} - y} \right|}^{n - \alpha }}}}} \right)u_{\hat \lambda }^p\left( y \right){\rm{d}}y} = }\\ {\int_{{D_{\hat \lambda }}} {\frac{{\left( {n - \alpha } \right)\left( {{{\bar x}^m} - y} \right)}}{{{{\left| {{{\bar x}^m} - y} \right|}^{n - \alpha + 2}}}}\left[ {{{\left( {{x^m}} \right)}^{\hat \lambda }} - {x^m}} \right]} \cdot }\\ {\left( {C_1^p - {u^p}\left( y \right)} \right){\rm{d}}y + }\\ {\int_{{\Omega _{\hat \lambda }}} {\frac{{\left( {n - \alpha } \right)\left( {{{\bar x}^m} - y} \right)}}{{{{\left| {{{\bar x}^m} - y} \right|}^{n - \alpha + 2}}}}\left[ {{{\left( {{x^m}} \right)}^{\hat \lambda }} - {x^m}} \right]u_{\hat \lambda }^p\left( y \right){\rm{d}}y} } \end{array} $

这意味着$\mathop {\lim \inf }\limits_{m \to \infty } \frac{{{v_{\hat \lambda }}\left( {{x^m}} \right) - v\left( {{x^m}} \right)}}{{\left| {{{\left( {{x^m}} \right)}^{\hat \lambda }} - {x^m}} \right|}} > 0$，这也与式(14)矛盾。

结合以上4种情况，得到${{\mathit{\Omega }_{\hat \lambda }} \cup {\mathit{D}_{\hat \lambda }}}$是空集，也就是说，${\mathit{\Sigma }_{\hat \lambda }} \cup \mathit{\Sigma }{\mathit{'}_{\hat \lambda }} \cup {\mathit{D}_{\hat \lambda }} \cup \mathit{D}{\mathit{'}_{\hat \lambda }} = {\mathit{\Omega }_2}\backslash {\mathit{\Omega }_1}$, ${\mathit{P}_{\hat \lambda }} \cup \mathit{P}{\mathit{'}_{\hat \lambda }} = {\mathit{\Omega }_1}$。

再向反方向移动T_λ，引理4—6的结果同样成立。所以，推断出u(x)和v(x)关于${T_{\hat \lambda }}$对称，且随着到${T_{\hat \lambda }}$的距离增大而单调递减。

最后, 由于x₁的方向是任意的，则Ω₁和Ω₂是同心球，且u(x)和v(x)关于中心点对称，且随着距中心点的距离增大而单调递减。

3 结束语

文献[1]中证明了薛定谔方程(3)的解的径向对称性和单调性，本文则进一步研究并得到了边值为常数的分数阶薛定谔方程在有界环形区域上解的径向对称性和单调性。本文的难点在于当边值为常数时，环形区域也是对称的。在得到解的对称性基础上，可以将方程转化为常微分方程，用常微分的理论进一步研究分数阶薛定谔方程。