解:(1)设双曲线G的渐近线的方程为y=kx,
则由渐近线与圆x2+y2-10x+20=0相切可得

=

,
所以k=±

,即双曲线G的渐近线的方程为y=±

x.??(3分)
(2)由(1)可设双曲线G的方程为x2-4y2=m,
把直线l的方程y=

(x+4)代入双曲线方程,
整理得3x2-8x-16-4m=0,
则xA+xB=

,xAxB=-

.(*)
∵|PA|?|PB|=|PC|2,P、A、B、C共线且P在线段AB上,
∴(xP-xA)(xB-xP)=(xP-xC)2,即(xB+4)(-4-xA)=16,
整理得4(xA+xB)+xAxB+32=0.将(*)代入上式得m=28,
∴双曲线的方程为

-

=1.???????????????(7分)
(3)由题可设椭圆S的方程为

+

=1(a>2

),
设垂直于l的平行弦的两端点分别为M(x1,y1),N(x2,y2),MN的中点为P(x0,y0),
则

+

=1,

=1,
两式作差得

+

=0,
由于

=-4,x1+x2=2x0,y1+y2=2y0,所以

-

=0,
所以,垂直于l的平行弦中点的轨迹为直线

-

=0截在椭圆S内的部分.
又由已知,这个轨迹恰好是G的渐近线截在S内的部分,所以

=

,即a2=56,
故椭圆S的方程为

+

=1(12分)
由题意知满足条件的P点必为平行于AB且与椭圆相切的直线m在椭圆上的切点,
易得切线m的方程为y=

,解得切点坐标x=

,y=

,
则P点的坐标为(

).(14分)解析分析:(1)设双曲线G的渐近线的方程为y=kx,则由渐近线与圆x2+y2-10x+20=0相切可得

=

,由此能求出双曲线G的渐近线的方程.(2)设双曲线G的方程为x2-4y2=m,把直线l的方程y=

(x+4)代入双曲线方程,得3x2-8x-16-4m=0,则xA+xB=

,xAxB=-

.由|PA|?|PB|=|PC|2,P、A、B、C共线且P在线段AB上,知4(xA+xB)+xAxB+32=0.由此能求出双曲线的方程.(3)设椭圆S的方程为

+

=1(a>2

),设垂直于l的平行弦的两端点分别为M(x1,y1),N(x2,y2),MN的中点为P(x0,y0),则

+

=1,

=1,两式作差得

+

=0.由此入手能够求出P点的坐标.点评:本题考查双曲线渐近线方程的求法,考查双曲线方程的求法,查运算求解能力,推理论证能力;考查化归与转化思想.综合性强,难度大,有一定的探索性,对数学思维能力要求较高,是高考的重点.解题时要认真审题,仔细解答.