(x^2 -xy-y^2)/(2x^2+y^2)=k라고 두자.

그러면 

(x^2 -xy-y^2)=k(2x^2+y^2)

(2k-1)x^2+xy+(1+k)y^2=0이 성립한다. 

여기서 x=0, y=1인 경우 k=-1일 수 있고, k의 최솟값은 -1 이하이므로 k가 음수인 경우에 대해서만 조사하자. 

(즉, 2k-1은 0이 아니다.)

그러면 

(2k-1)x^2+xy+(1+k)y^2=0이 실근 x, y를 가져야 하므로

y를 실수인 상수 취급하자.

그러면, x가 실근을 가져야 하므로

y^2-4(1+k)(2k-1)y^2≥0 이상이면 x가 실근을 갖는다.

i)y=0인 경우

k=1/2이다. (무시해도 된다.)

ii)y≠0인 경우

1-4(1+k)(2k-1)≥0이어야 하고,

2k^2+k-5/4≤0 을 만족하는 k의 최솟값을 찾아주면 된다. 

그러면 k=(-1-root(11))/4가 된다. 

i과 ii의 경우에서 k의 최솟값은 (-1-root(11))/4 이 된다.