수학에서 정의(definition)는 무엇이고 공리(axiom)는 무엇이냐고 묻는 분이 있었다. 어떤 수학적 내용이 있는 데, 여기에다 전문용어(terminology)로 명칭을 부여한다. 이 때, 이 명칭이 그 수학적 내용의 정의이다.
마치, 어떤 사람에게 이름을 부여하는 것과 같다고나 할까? 어떤 수학적 내용에 이름을 부여한 다음에는 이것을 기호(notation)화하는 것이 보통이다.
이렇게 어떤 수학적 내용에다 무어라고 정의를 한다든지 기호화한다든지 하는 근본적인 취지는 그 수학적 내용을 단순화 또는 간소화하여 그것을 나중에 빨리 쉽게 기억하여 수학적 논의를 진행하자는 데 있다.
수학에서의 정의는 사전식 정의가 아니다. 점(point)이 무엇인지를 알고 싶어 국어 사전을 찾아보면 길이·너비·두께도 없이 위치만 있는 것이라고 되어 있다. 그래도 점이 무엇인지 알 수 없어 이제는 길이를 찾아본다.
이런 식으로 사전을 찾아 점의 의미를 추적해 나가면 수학적 대상인 점의 실체를 제대로 파악하지 못하는 것이다. 사실, 평면 기하에서는 점과 선을, 공간 기하에서는 점, 선 및 평면을 무정의 용어(undefined elements)로 받아들인다.
어떤 기호를 적어 놓고 이것이 무엇을 의미하느냐 물으면 안 된다. 위에서 언급했듯이 어떤 수학적 내용을 간소화하기 위하여 기호를 사용하였기 때문에 논의과정에서 아무런 언급도 되지 않은 기호를 놓고 그것이 뜻하는 수학적 내용을 알아내라고 하는 것은 논리적 사고에 결함이 있는 것이다.
증명을 하지 않고 받아들이는 간단한 진술을 공리라고 한다. 무정의 용어를 사용하여 다음과 같은 세 가지 조건을 만족시키는 몇 개의 공리를 모아, 하나의 공리계(axiomatic system)를 만든다.
무모순성(consistency), 완비성(completeness), 독립성(independence)이 그 세 가지 조건이다. 무모순성이란 한 진술과 그 부정인 진술 중에서 적어도 하나는 그 공리계에서 증명될 수 없다는 것이다.
완비성은 한 진술과 그 부정인 진술 중에서 적어도 하나는 그 공리계에서 증명될 수 있다는 것이다. 독립성은 그 공리계의 어떤 진술도 나머지 진술로 증명되어서는 안 된다는 것이다.
또한, 한 공리계를 보면 거기에는 원소들 사이에 결합관계를 진술하는 결합공리와 한 원소의 존재를 진술하는 존재공리로 나누어진다.
스스로 그렇게 있는 것에서 대표적인 성질들을 모아 이들을 무정의 용어를 사용하여 공리계를 구성한 다음 이 공리계에서 논리적인 추론(logical reasoning)을 하여 정리(theorem)를 찾아낸다. 이렇게 하는 것을 따져간다고 하는 것이다. 이렇게 따져서 찾아낸 정리를 물리적 현상에 적용해 보면 기가 막히게 딱 맞는다.
이런 정신적인 활동이 바로 수학에서 하는 일이다.
/이상철(전북대 영재교육원 수학교수부장)