확률 개념의 철학적 이해 - 간단한 소개

(이 글은 맑은고딕 폰트를 사용해서 쓰고 있습니다.)

전통적인 도상학의 관행에서 여신 사피엔티아Sapientia는 포르투나Fortuna와 짝을 이뤘다. 앎은 필연적인 원인에 대한 것이며, 우연은 이 필연적인 원인이 지배하지 않는 세계이기 때문이다. 다시 말해, 우연과 앎은 서로를 부정하는 관계로 인식되었다.

하지만 그리스 비극을 보면 이 제멋대로이고 어떤 필연적인 원인을 갖지 않는, 우연(티케Tyche)이 지배하는 운명의 존재를 인정하는 것이 아주 어려운 일이었다는 걸 알 수 있다. 왜 위대한 아가멤논의 가문은 끔찍한 파멸을 당해야 했는가. 아이스퀼로스의 <오레스테이아>는 이 운명이라는 혼돈의 세계에 필연성이라는 아폴론의 빛을 비추려는 노력의 산물이다. 아가멤논은 오만함(휘브리스hybris)의 죄를 지은 탄탈로스의 자손이고 그로 인해서 그 가문은 끔찍한 종말을 맞이 한다. 그리스인들은 개인의 존재를 혈족이라는 더 큰 정체성 속에서 희생시키는 대가를 치르면서도 삶에 무의미한 운명의 자의적 장난이 없기를 원했던 것이다 (물론 <오레스테이아>는 복수의 여신들과 이 가문의 마지막 자손들을 아테나이 여신의 중재로 화해시킴으로써 모든 것을 이 끝이 없는 복수의 연쇄에 맡기지 않을 수 있는 가능성을 모색하지만 말이다).

왜 이런 이야기를 하느냐. 확률 개념의 탄생이 18세기 중반부터 앎의 성격이 본질적으로 바꾸어 버린 지성사의 혁명이라는 것을 강조하기 위해서이다. 비로소 이 시기에 와서야 앎은 우연과 불확실성을 자신의 영역으로 포섭할 수 있었던 것이다.

카르다노의 선구적인 업적이 있긴 했지만 중단된 도박의 판돈을 어떻게 나누어야 하는 문제에 대해 파스칼과 페르마가 나는 편지 교환에서 확률의 수학적 계산이 시작되었고, 이 도박을 이용한 파스칼의 변신론에서 철학적 논의가 비롯되었다고 해도 되기 때문이다. 그 뒤를 이어 로크와 라이프니츠 등이 이 확률의 문제를 논의하면서 확률은 철학적 논의의 중심적인 주제 중 하나로 떠올랐다.

그러나 이런 논의에도 불구하고 확률 개념은 분명하게 정의되지 못했다. 기대값과 확률이 혼동되었는가 하면, 통계적인 추측의 실용적인 필요성과 철학적 확률 개념이 뒤섞여 "확률의 수학"이라고 할 만한 것이 정립되지 못했다. 베르누이 등 많은 수학자들이 확률의 특수한 문제들과 해법 혹은 역설을 제시했지만, 그리고 베이즈의 주관적인 확률 개념과 통계에 바탕을 둔 피셔의 빈도적 개념이 확률론의 발달과 확장에 기여했지만, 확률론이 엄밀한 수학적 기초를 갖게 된 것은 1930년대에 들어서였다. 콜모고로프의 기념비적인 저작에 의해서 비로소 공리적 확률론이 체계를 갖추었던 것이다.

하지만 "확률의 수학"은 이제 거의 이론의 여지없이 체계를 갖추었지만 여전히 확률 개념은 다의적이다. 확률을 어떻게 해석할 것인가의 문제에 대해서 여러 학파들이 그 추종자들을 거느리고 있으며, 이 문제는 확률을 어디서 정의할 것인가의 문제이기도 하다.

간단하게 예를 들어 보자.

빈도주의자는 사회적 통계에서 a라는 사건이 가지는 확률이 가지는 값을 이렇게 설명한다. 만일 동일한 조건이 반복된다면 전체 모집단에서 a가 발생하는 빈도가 일정한 값으로 수렴될 것이라고. 그것이 바로 확률의 통계적 의미라고 말이다. 예를 들어, 독감의 사망율이 3퍼센트라고 한다면, A 지역에서 100명 중 4명이 죽을 수도 있고, B 지역에서 100명 중 1명이 죽을 수도 있다. 그러나 이 표본 집단의 크기를 점점 크게 해 나간다면 독감에 걸린 전체 환자에서 사망하는 환자의 비율은 3%(100분의 3)에 가까워질 것이라고.

그러나 이 빈도주의의 문제점은 "무한한 시행 횟수"를 가정한다는 데 있다. 그에 비해 성향주의자는  하나의 특정한 사건에 대해서도 확률 개념을 유의미하게 사용해야 한다는 요구 때문에 빈도적 해석을 거부한다. 우리가 보고 있는 저 특정한 하나의 중성자가 10.8분이 지나면 붕괴할 확률이 50퍼센트라는 단칭 진술을, 자유로운 중성자는 그렇게 붕괴되는 성향을 갖고 있다는 의미로 이해할 수 있기 때문이다.

이 두 가지는 주로 확률 개념을 객관적으로 이해하려는 경향에 속한다. 그에 비해 베이즈의 주관적 확률이나 카르납의 논리적 확률은 인식론적인 함의를 가진다. 베이즈 주의자들에 따르면 확률은 주관적인 믿음의 정도이고, 카르납에게 있어서는 확증의 정도이다. 즉 베이즈 주의자들은 "넘버3"의 한석규처럼 "51%만 믿는다"고 말할 수 있는 반면에, 카르납주의자들은 "여러 증거들이 화성에 생명체가 살았다는 추측을 뒷받침해주는 정도는 80% 정도다"라고 말할 수 있다.

물론 지금 내가 약간 암시했던 것처럼, 영역에 따라 서로 다른 해석을 사용하는 다원주의자들도 존재한다. 예를 들어, 확률에 관한 철학적 개론서를 쓴 멜러의 경우 (1) Chance - 물리적 확률 (2) 인식적 확률 - 지지/확증의 정도 (3) 신뢰도 - 주관적 믿음의 정도를 서로 구별하고 있다.

이런 예비적인 구분들을 염두에 둠으로써 양자 역학의 파동 방정식의 해로 나타나는 소립자의 확률적 분포, 의료 통계에서 나타나는 상관 관계의 확률적 해석, 결단 논리에서 사용하는 베이즈 추론의 확률 개념이 서로 같은 수학적 "확률론"에서 나온 공식들을 사용한다고 하더라도 실은 서로 다른 개념으로 사용될 수 있고 그렇게 사용된다는 것을 이해하게 된다.

그 구체적인 확률 개념의 사례들과 함의에 대해서는 다음 기회에 좀 더 자세히 살펴 보기로 하자.

......라고는 했지만 게을러서 언제 쓸 지는 모른다.