[미디어파인 칼럼 = 이상원 기자] 어떤 물건을 살 것인지 말 것인지 결정하기 위해 식료품 바구니에 있는 물건들의 총비용을 추정해야 한다고 해보자. 그러면 당신은 학교에서 흔히 가르치는 반올림을 사용하여 물건을 추정할 것이다. 물건값이 500원이어도 천 원 단위로 각 물건의 비용을 반올림하는 것처럼 말이다.
이 반올림 방법은 계산기 없이 총계를 빠르게 계산할 때 유용하다. 또한 특정 반올림 작업을 반복할 때 같은 결과를 얻는다. 예를 들어 4.9를 가장 가까운 정수로 반올림하면 항상 5가 나오고 302를 가장 가까운 100의 자리에서 반올림하면 항상 300이 나온다.
그러나 이런 유형의 라운딩은 기계 학습, 양자 컴퓨팅 및 기타 기술적 응용 분야에서 계산에 문제를 일으킬 수 있다. 과학자들은 항상 가장 가까운 곳에 반올림하는 것은 계산에 편의를 가져올 수 있다. 그러나 데이터가 균일하게 분포되어 있지 않거나 반올림 오차가 균일하게 분포된 데이터에서는 어떤 방향으로 반올림을 계속 진행한 후에 주 결과에서 오차나 편의로 나타날 수 있다. 확률적 반올림이라고 불리는 대체 기술은 근거리 접근법이 부족한 응용 분야에 더 적합하다. 컴퓨터 과학자 '조지 엘머 포사이드'가 1949년에 처음 제안한 확률적 반올림은 최근 재주목을 받고 잇다.
이 기법은 머릿속으로 행하도록 설계된 것이 아니다. 대신에, 컴퓨터 프로그램은 어떤 숫자에서 실제 측정값의 거리에 기초한 확률로 반올림한다. 예를 들어, 2.8은 3으로 반올림할 확률이 80%이고, 2로 반올림할 확률은 20%이다. 하지만 어떤 경우든 반올림하는 방향은 무작위입니다. 2.5가 언제 3으로 반올림되고 언제 2로 반올림되는지 예측할 수 없다. 그리고 2.8이 때때로 2로 반올림될 확률은 20%이다.
특정 숫자에 대해 반올림이 항상 같은 방향으로 진행되지 않도록 함으로써, 이 과정은 정체라고 알려진 것을 방지하는 데 도움이 된다. 정체는 일반적으로 계산에서 문제가 된다. 정체는 기계학습과같이 많은 값을 추가해야 하는 응용 분야에서 가장 큰 문제를 일으키며 오류값들은 다른 값들보다 훨씬 크다. 그러나 확률적 반올림의 경우 예를 들어 큰 이상치 몇 개에 의해 중단되는 대부분 작은 수들의 반올림 확률은 작은 값들로부터 보호하는 데 도움이 된다. 새로운 기술이 발전되며 과거의 이론이 주목받는 사례는 앞으로 많이 나올 것이다.
[이상원 칼럼니스트]
고려대 산업경영공학과(재학 중)
미디어파인 대학생칼럼니스트 겸 기자