함수의 극한

함수의 극한은 해석학에서 가장 중요한 개념 가운데 하나이다. 어떤 점의 근방에서 함수가 어떻게 행동하는지 알려 주고, 이를 이용해 예를 들어 함수의 연속을 정의할 수 있다. 함수의 극한을 이용하면 함수가 아예 정의되지 않은 곳에서도 함수가 어떻게 행동하는지 이해할 수 있다.

점의 근방

먼저 실수의 집합에서 점의 엡실론 근방을 정의하자. r ∈ ℝ이라고 하자. 그러면 ϵ > 0에 대해 이 점의 엡실론 근방은 열린구간 (r − ϵ, r + ϵ)이다. 구멍 뚫린 엡실론 근방은 같지만 점 r을 포함하지 않는다. 구멍 뚫린 근방은 (r − ϵ, r) ∪ (r, r + ϵ)이다. 점 a의 엡실론 근방을 U(a, ϵ)으로, 구멍 뚫린 근방을 R(a, ϵ)으로 나타낸다.

예로 수 5와 그 2-근방을 보자. U(5, 2)를 구하면 구간 (5 − 2, 5 + 2) = (3, 7)이다. 구멍 뚫린 근방은 R(5, 2) = (3, 5) ∪ (5, 7)이다. 같은 근방에서 점 5만 뺀 것이다. 점 5의 2-근방을 그림으로 나타내면 다음과 같다.

구멍 뚫린 2-근방도 모양은 같고, 파란 점 5만 들어 있지 않다.

집적점

다음으로 집합의 집적점의 정의를 알아야 한다. 원소 a ∈ ℝ이 집합 M ⊆ ℝ의 집적점이라는 것은, 아무리 작은 구멍 뚫린 근방이라도 그 안에 집합 M의 점이 있다는 뜻이다. 더 정확히 쓰면 다음과 같다.

$$\mathrm{\forall }ϵ>0:R(a,ϵ)\cap M\ne \mathrm{\varnothing }$$

예: 모든 실수는 실수 집합의 집적점이다. 수 10을 고르면 이 점의 어떤 구멍 뚫린 근방에서도 언제나 실수를 찾을 수 있다. $ϵ=\frac{1}{100}$이면 구멍 뚫린 근방 (9.99, 10) ∪ (10, 10.01)을 얻는다. 두 구간 모두에 실수가 있다. 더 정확히는 실수가 무한히 많이 있다. 그래서 아무리 작은 ϵ을 잡아도 언제나 실수가 무한히 많이 들어 있는 구간을 얻는다.

M으로 자연수의 집합을 고르면 집적점을 하나도 찾을 수 없다. 예를 들어 수 $\frac{1}{2}$은 집적점이 아니다. $ϵ=\frac{1}{10}$이면 구간 (0.4, 0.5) ∪ (0.5, 0.6)을 얻는데, 두 구간 어디에도 자연수가 없기 때문이다.

극한이 필요한 이유

가장 쉬운 정의, 즉 유한한 점에서의 극한값부터 시작하자. 먼저 무엇을 구하려는지 보자. 다음 부호 함수의 그래프를 보자.

점 x₁ = 3을 고르면 이 점에서의 함숫값은 1이다. sgn(3) = 1이다. 그리고 “가까운” 주변의 모든 점에서도 함숫값은 1이다. 예를 들어 sgn(2.5) = 1이고 sgn(3.5) = 1이다. 점 x₁ = 3에 왼쪽에서 다가가든 오른쪽에서 다가가든 함숫값은 언제나 1이다.

그런데 점 x₂ = 0을 고르면 sgn(0) = 0인데, 주변의 모든 점에서는 함숫값이 다르다! 예를 들어 $\text{sgn}(-\frac{1}{2})=-1$이고 $\text{sgn}(\frac{1}{2})=1$이다. 오른쪽의 함숫값은 값 1에 가까워지고, 왼쪽의 함숫값은 값 −1에 가까워진다. 그리고 결국 점 x₂ = 0에서는 함숫값 0을 얻는다. 함정이다. 함수가 그 점에서 가까워지는 이런 값을 그 점에서의 함수의 극한이라고 한다.

유한한 점에서의 극한값의 정의

f가 함수이고 x₀ ∈ ℝ이 함수 f의 정의역의 집적점이라고 하자. 다음이 성립하면 L ∈ ℝ을 점 x₀에서 함수 f의 극한이라고 한다.

$$(\mathrm{\forall }ϵ>0)(\mathrm{\exists }\delta >0)(\mathrm{\forall }x\in D(f))(0<|x-x_0|<\delta \Rightarrow |f(x)-L|<ϵ).$$

이제 이 정의가 무슨 뜻인지 보자. 여기서 유한한 점이라는 것은 그 점이 실수라는 뜻이다. 나중에는 무한대에서의 극한을 다룬다. 다음 극한을 구해 보자.

$$\underset{x\to 3}{lim}\frac{x}{3}=?.$$

이렇게 간단한 함수에서는 점 x₀에서의 함수의 극한이 그 점에서의 함숫값 f(x₀)과 같다. “간단한 함수”가 무슨 뜻인지는 나중에 정확히 정의하겠다. 이제 모두 그림에 그려 보자.

검은 직선은 함수 $f(x)=\frac{x}{3}$의 그래프이고, 빨간 점 x₀은 극한을 구하려는 점, 초록 점 L은 결과로 얻는 극한이다. 극한은 y축 위에 나타낸다는 것에 주목하자.

정의를 따라 계속하자. 정의의 맨 앞에는 (∀ϵ > 0)이 있고, 뒤에서 ϵ이 |f(x) − L|<ϵ에 쓰인다. 이것은 모든 f(x)가 L에서 ϵ보다 가까이 있기를 바란다는 것을 수학적으로 쓴 것이다. 즉 y축 위에서 점 L의 ϵ-근방을 찾는다. 정의에 따라 아무 ϵ > 0이나 고를 수 있으므로, 예를 들어 $ϵ=\frac{3}{10}$을 고른다. y축 위에서 점 L에서 정확히 ϵ만큼 떨어진 점을 찾는다.

y축 위에서 두 초록 선 사이에 있는 모든 점은 점 L의 ϵ-근방에 있다. 정의가 말하는 것은 이 점들이다.

정의는 (∃δ>0)으로 이어지고, 이것은 뒤에서 0<|x − x₀|<δ에 쓰인다. 어떤 차 x − x₀이 δ보다 작아야 한다는 뜻이다. x, x₀은 x축 위에 있으므로 값 δ도 x축 위에 나타낸다. 이때 0<|x − x₀|<δ는 x₀에서 δ보다 가까이 있으면서 0보다는 멀리 있는, 즉 x ≠ x₀인 모든 x를 택하라는 뜻이다. 즉 이것은 점 x₀의 구멍 뚫린 δ-근방을 나타낸다. 그래서 극한의 정의를 점의 근방으로 다음과 같이 바꿔 쓸 수 있다.

$$(\mathrm{\forall }ϵ>0)(\mathrm{\exists }\delta >0)(\mathrm{\forall }x\in D(f))(x\in R(x_0,\delta )\Rightarrow f(x)\in U(L,ϵ))$$

앞의 정의로 돌아가 그림을 계속 그리자. 그림으로 나타내려면 정의의 다음 부분이 필요하다.

$$0<|x-x_0|<\delta \Rightarrow |f(x)-L|<ϵ$$

즉 점 x₀의 구멍 뚫린 δ-근방에 있는 모든 x에 대해… 어떤 조건이 성립해야 한다. 그림에 점 x₀의 구멍 뚫린 δ-근방을 그려 넣자. 예를 들어 $\delta =\frac{3}{2}$으로 한다.

빨간 점선 사이에 있는 모든 x는 점 x₀ 자신을 빼고 x₀의 δ-근방에 속한다. 앞의 조건을 다시 보자.

$$0<|x-x_0|<\delta \Rightarrow |f(x)-L|<ϵ$$

점 x₀의 구멍 뚫린 δ-근방에 있는 모든 x에 대해 모든 함숫값 f(x)가 점 L의 ϵ-근방에 있어야 한다. 그래서 점 x₀의 구멍 뚫린 δ-근방에 있는 모든 x를 택하고 함숫값을 구한다. 이 함숫값을 다음 그림에 파란 선분으로 나타냈다.

점 x₀은 구멍 뚫린 근방에 들어 있지 않으므로 그 자리에 동그라미가 있다. 정의에 따르면 이 파란 점들은 모두 점 L의 ϵ-근방에 있어야 한다. 그림의 색으로 말하면 파란 점은 모두 ϵ-근방을 나타내는 초록 선 사이에 있어야 한다. 성립할까?

물론 성립하지 않는다. 예를 들어 $x=\frac{16}{10}$이면 분명히 초록 선 사이에 있지 않은, 즉 점 L의 ϵ-근방에 있지 않은 파란 점을 얻는다.

하지만 상관없다. 정의에 따르면 점 L의 모든 ϵ-근방에 대해 … 나머지 조건을 만족하는 어떤 δ-근방이 있어야 한다. 즉 그런 δ-근방이 하나만 있으면 된다. $\delta =\frac{3}{2}$은 분명히 좋은 선택이 아니었지만, 다른 δ, 예를 들어 $\delta =\frac{1}{2}$을 시험해 볼 수 있다. 그러면 그림은 다음과 같이 바뀐다.

다시 점 x₀의 구멍 뚫린 δ-근방에 있는 모든 x에 대한 모든 함숫값이 점 L의 ϵ-근방에 있는지 본다. 즉 파란 점이 모두 초록 선 사이에 있는지 본다. 이제는 그렇다. 만세.

그러면 L이 점 x₀에서 함수의 극한일까? 꼭 그렇지는 않다. 정의는 (∀ϵ > 0) …라고 하기 때문이다. 지금까지는 구체적인 ϵ 하나에 대해서만 정의를 확인했다. 아직 … 무한히 많이 남았다.

다시 말해 $\underset{x\to 3}{lim}\frac{x}{3}=1$이 정말 성립하려면 모든 ϵ-근방에 대해 앞의 조건을 만족하는 어떤 δ-근방을 찾아야 한다. 그림에서 그런 δ-근방을 언제나 찾을 수 있다는 것을 알 수 있다. 예를 들어 ϵ을 $ϵ=\frac{1}{10}$로 줄이면 δ를 $\delta =\frac{2}{10}$로 줄이면 된다.

아무리 작은 ϵ을 잡아도, 함숫값이 함수의 극한 L의 ϵ-근방에 들어가게 하는 δ를 언제나 찾아야 한다.

유한한 점에서의 극한값의 증명

앞의 극한을 실제로 증명해 보자. 그림에서 아마 다음이 성립한다는 것을 이미 안다.

$$\underset{x\to 3}{lim}\frac{x}{3}=1,$$

이제 수학적으로 증명해 보자. 그림에서 δ로 언제나 ϵ과 같은 값을 택하면 될 것 같다고 짐작할 수 있다. 그러니 δ = ϵ으로 놓자. 이제 다음을 증명해야 한다.

$$L-ϵ<f(x)<L+ϵ,\text{모든}x\in (x_0-\delta ,x_0)\cup (x_0,x_0+\delta )$$

δ = ϵ으로 놓았으므로 모든 δ를 ϵ으로 바꾼다.

$$L-ϵ<f(x)<L+ϵ,\text{모든}x\in (x_0-ϵ,x_0)\cup (x_0,x_0+ϵ)$$

L에 1을, x₀에 3을 대입한다.

$$1-ϵ<f(x)<1+ϵ,\text{모든}x\in (3-ϵ,3)\cup (3,3+ϵ)$$

이제 모든 부등식을 증명해야 한다. 함수 $\frac{x}{3}$는 증가함수이므로 양 끝 점 3 − ϵ과 3 + ϵ만 확인하면 된다. 먼저 3 − ϵ이다. 함수 $\frac{x}{3}$에 값 3 − ϵ을 대입하고, 이 값이 언제나 부등식 1 − ϵ < f(x) < 1 + ϵ을 만족한다는 것을 보인다.

$$\begin{array}{rcl}1-ϵ<& f(x)& <1+ϵ\\ 1-ϵ<& \frac{x}{3}& <1+ϵ\\ 1-ϵ<& \frac{3-ϵ}{3}& <1+ϵ\\ 1-ϵ<& \frac{3}{3}-\frac{ϵ}{3}& <1+ϵ\\ 1-ϵ<& 1-\frac{ϵ}{3}& <1+ϵ\\ -ϵ<& -\frac{ϵ}{3}& <ϵ\end{array}$$

3 + ϵ도 마찬가지이다.

$$\begin{array}{rcl}1-ϵ<& f(x)& <1+ϵ\\ 1-ϵ<& \frac{x}{3}& <1+ϵ\\ 1-ϵ<& \frac{3+ϵ}{3}& <1+ϵ\\ 1-ϵ<& \frac{3}{3}+\frac{ϵ}{3}& <1+ϵ\\ 1-ϵ<& 1+\frac{ϵ}{3}& <1+ϵ\\ -ϵ<& \frac{ϵ}{3}& <ϵ\end{array}$$

잘못 정한 극한

이번에는 x가 3에 가까워질 때 함수의 극한이 2분의 1이라고 생각했다면 어떻게 되는지 그려 보자. 작은 엡실론 근방을 하나 고른다.

이제 점 x₀의 델타 근방을 아무리 잡아도, 그 모든 함숫값이 이 초록 선 사이에 들어가게 할 수 없다. 고른 δ-근방에서는 파란 점이 모두 초록 선 밖에 있다. δ-근방을 넓히면 초록 선 사이에 들어가지 못하는 파란 점만 늘어난다.

부호 함수의 극한

부호 함수는 아마 머리를 어지럽힐 멋진 함수이다. 그래프는 다음과 같다.

그래프가 아주 분명하지는 않으니 말로 설명하자. x가 음수이면 부호 함수의 값은 −1이고, 양수이면 +1이고, x가 0이면 부호 함수의 값도 0이다. 절댓값을 써서 그래프를 f(x) = |sgn(x)|로 바꾸면 |sgn(0)| = 0이고, 나머지 경우에는 |sgn(x)| = 1이다. 그래프는 다음과 같다.

질문은 다음 극한이 무엇과 같으냐는 것이다.

$$\underset{x\to 0}{lim}|\text{sgn}(x)|=?$$

함수는 점 0에서 정의되어 있고 함숫값도 0이다. 하지만 그렇다고 해서 극한도 0이라는 뜻은 아니다. 극한은 그 점에서의 함숫값과 다를 수 있다.

정의를 만족하도록 극한을 정하는 방법은 극한을 1로 정하는 것뿐이다. 직관으로도 알 수 있다. x가 왼쪽에서 0에 가까워질 때 함숫값은 어디에 가까워질까? 계속 1에 가까워진다. 마지막에 0으로 뛰어내리는 것은 상관없다. x가 오른쪽에서 0에 가까워질 때도 마찬가지이다.

$$\underset{x\to 0}{lim}|\text{sgn}(x)|=1$$

함수를 원래 꼴, 즉 f(x) = sgn(x)로 두면 함수는 점 0에서 극한을 갖지 않고, 서로 다른 두 한쪽 극한을 가진다. 왼쪽에서는 −1에, 오른쪽에서는 +1에 가까워진다. 정의에 따라 직접 증명해 보아도 좋다.

극한이 없는 경우

극한이 없는 예를 몇 가지 더 보자.

극한이 없는 가장 간단한 예는 D(f)의 집적점이 아닌 점에서 극한을 구하는 것이다. 그래서 예를 들어 다음 극한은 존재하지 않는다.

$$\underset{x\to -1}{lim}\ln x$$

그래프는 다음과 같다.

주기함수는 무한대에서 극한을 갖지 않는 경우가 많다(모두 그런 것은 아니다!). 대표적인 예가 사인 같은 삼각함수이다. 그래프는 다음과 같다.

무한대에서의 극한은 존재하지 않는다. 사인의 값은 1과 −1 사이를 끊임없이 오가므로 극한을 구할 수 없다.