집합론(集合論, 영어: set theory)은 추상적 대상들의 모임인 집합을 연구하는 수학 이론이다. 집합론은 술어논리학과 함께 대부분의 수학기초론 체계의 근본으로, 현대 수학을 논리적으로 지탱하는 밑바탕이 된다.
소박한 집합론에서는 집합을 단순히 대상들을 모아서 만들어지는 자명한 개념으로 이해한다. 중학교 및 고등학교 등의 교육과정에서 다루는 집합의 개념은 이에 해당한다.
소박한 집합론의 모순을 해결하기 위해 등장한 공리적 집합론은 집합들과 그 포함관계가 만족하는 공리들을 규정하는 방법으로 집합을 간접적으로 정의한다. 여기에서 집합과 그 포함관계는 유클리드 기하에서의 점이나 선과 같은 무정의 용어로 볼 수 있다. 공리적 집합론은 대부분의 경우 대학에서 수학을 전공하지 않는 이상 배우지 않는다.
공리적 집합론
공리적 집합론은 술어논리를 이용하여 기술한 체계를 가지고 집합의 성질을 규명하는 수학의 한 분야이다.
일차 술어논리를 사용한 공리적 집합론
단항 술어기호 ''과 양항 술어기호인 포함관계 기호 ''모두를 포함하거나 오로지 포함관계 기호만을 포함한 일차 술어논리 언어를 가지고 집합론을 구성할 수 있다.
일반적으로 대상 가 를 만족하면 를 집합이라 한다.
이 술어기호가 없는 집합론에서는 모든 대상을 집합으로 간주한다. 집합이 없는 대상을 원자(아톰, atom)이라 한다.
만일 이면 '가 의 원소다' 혹은 '가 를 포함한다((원소로) 가진다)'고 한다. 이는 기호로 표현한 것을 설명한다기보다는 자연어로 옮기는 방법을 서술한 것에 가깝다.
어떤 공리적 집합론에서도 보통 확장 공리는 채택하는 편이다.
확장 공리는 `집합 와 가 가지는 원소가 서로 꼭 같다면 이다.'를 말한다.
기호로 로 쓸 수 있다.
이제 소박한 집합론에서 말하는 '분명히 구별되는 대상들의 모임이 집합'이라는 정의를 공리적 집합론으로 가져오면 다음과 같이 표현할 수 있다.
'임의의 개 자유변수 를 가지는 논리 공식 에 대하여 가 성립한다'로 표현할 수 있다.
여기서 변수자리에 쓴 는 그것이 어느 변수라도 될 수 있음을 표현하고자 한 것이다.
물론 변수 는 들 중 어느 하나라도 같아서는 안 된다.
그런데 이 공리는 도입하는 즉시 러셀의 역설과 유사한 역설에 직면하게 된다.
이를 피하기 위해 여러 방법이 사용되는데, 크게 세 가지로 구분된다.
하나는 분리공리만을 허용하는 것이고, 또 하나는 변수의 타입을 집합과 유로 구분하는 것이고, 또 하나는 사용할 수 있는 논리 공식에 제한을 두는 것이다.
ZFC에서는 분리공리만을 허용하며, 변수 타입을 집합과 유로 구분하는 것은 NBG, 논리 공식에 제한을 두는 것은 New foundation에서 볼 수 있다.
Roitman, Judith (2011). 《Introduction to modern set theory》 (영어) 2판. Virginia Commonwealth University Press. ISBN978-0-9824062-4-3. Zbl0689.0400. CS1 관리 - 추가 문구 (링크)