1. 개요
인공지능은 회계사의 업무를 보조하고 업무의 효율성을 높이기 위해 사용될 것이다. 기업이 감사 자료를 제출할 때까지 기다리거나 재촉하는 일이 상당 부분 사라지고 데이터 감사로 전환될 것이다. 지방에 출장 가서 현장 실사를 하는 것도 상당부분 줄어들 수 있다. 세계경제포럼은 2015년 '2025년 회계감사 30%를 AI가 수행'할 것으로 예측했다. 인공지능이 회사의 데이터 분석과 같이 기존에는 시간과 비용의 한계로 하기 힘들었던 업무를 해줄 것이다.그러면 회계사의 업무에는 큰 변화가 있을 것이다. 예를들어, 데이터를 바탕으로 회계사는 이 분석 내용 및 데이터를 판단하는 일에 집중 할 것이다.뉴스 또는 회계감사 일이 줄어든다면 회계법인은 재무나 경영자문 등 전문서비스업으로서의 역할을 더욱 강하게 수행할 수 있게 된다.
이 과정에서 누구에게도 피해를 주지 않을 문제[1]에 대해서는 인공지능의 도입이 좀 더 빠르게 이루어질 수 있을 것이다. 달리는 자동차와 어린이 문제를 예로 들면, 인공지능이 수많은 변수들을 고려하여 최적의 결정을 하였고, 그래서 달리는 자동차 앞으로 뛰어든 아이와 운전자 모두를 위기로부터 벗어나게 했다면, 즉 어느 누구도 피해를 보지 않고 적어도 한 사람 이상의 효용이 증가하는 '파레토 개선'을 항상 할 수 있다면 누구도 인공지능의 존재를 부정하려 하지 않을것이다. 왜냐하면 그러한 놀라운 연산 능력이 직간접적으로 나의 인생에 이득이 될 수 있다고 생각할 것이기 때문이다.
그러나 회계사는 전문가이기 때문에 회계사의 결정을 대체한다는 것은 누군가에게 피해를 줄 문제를 다루는 것이 자명하다. 따라서 인공지능의 도입이 어떤 식으로 영향을 미칠지는 복잡한 문제이며, 의견이 갈린다.
- 회계사는 고유의 업무 영역을 가지고 있는 점, 해당 업무 영역이 윤리적 판단과 관련되어 있으므로 사무직 전체가 기계에 잠식되기 전에는 일자리를 잃지 않게 될 것이라는 점, 기술이 발전하더라도 회계사는 자신에게 맞는 역할을 찾아낼 것이라는 의견
- 회계사가 상당 부분 일자리를 잃거나 대우가 현저히 나빠질 것이라는 의견
2. 대체할 수 없다는 의견
2.1. 기본 현황
기본적으로 회계사라는 직업이 대대손손 영구히 인간의 영역이고 AI가 절대로 침범하지 못할 영역라고 가정하지 않는다. 대체가 가능하다는 아래 의견을 자세히 들여다보면 공인회계사뿐이 아닌 모든 사무직렬의 대체가능성에 대해 적용되는 주장을 하고 있다. 하지만, 대체할 수 없다고 주장하는 사람들이 인공지능이 먼 미래에 대부분의 인사, 재무, 조직, 물류, 통계, 설계, 계발등을 수행하게 될 정도로 발달한 상황에서 공인회계사만은 절대 대체가 불가능하다는 주장을 펼치는 것이 아니다. 이미 그때쯤에는 삼성이니 현대니 SK니 하는 대부분의 대기업 사무직렬이나 공기업, 공무원, 공공기관 등에서도 인공지능이 수많은 사무 업무에서 인간을 대체하고 있을 것이다. 여기서 펼쳐야 할 주장은 토론에서 보편적으로 예상하고 있는 근시에, 법적으로 직역을 보장받는 회계사가 타 사무직군에 비해 유의미하게 대체가능시기가 이른지 아닌지를 논하는 것이다. 기술의 발전과 인간의 불완전성을 근거로 들면 종교적 영역을 제외하고는 인공지능이 대체못할 직역은 사실상 없다. 모든 직업은 결국 기술 발전으로 AI가 대체하게 된다는 주장은 굳이 공인회계사 문서에서 길게 늘여놓을 필요가 있을까?회계사가 주로 하는 3대 업무는 회계감사, 컨설팅, 세무업무이다. 회계감사 업무를 대체할 수 없다면 회계사도 사라지지 않을 것이다.그리고, 누군가 큰 피해를 볼 문제에 대해서는 사람들이 인공지능의 회계감사 결과를 수용할 수 없을 것이다. 설사 인식 전환이 이루어져서 입법이 된다 할지라도 먼 미래에나 이루어질 일로서 현 시대의 사람들과는 관계없는 일일 것이다.
또한 인공지능이 발전하더라도, 회계사를 대체하는 인공지능을 만들기 위해서는 회계 지식에 능통한 회계사가 필요하다. 따라서 인공지능은 회계사의 업무를 완전히 대체하는 회계사의 경쟁자가 아닌 동반자로서 회계사와 함께 할 것이다.
판단 업무 또한 대체된다는 의견도 있으나, 회계감사는 수많은 사람의 이해관계가 걸려있는 윤리적 성격을 포함하는 일이기 때문에 기계가 아무리 일을 잘한다 하더라도 이를 인공지능에게 넘기기는 힘들다.
- 정부 출연 연구기관에서는 대한민국 공인회계사의 대체가 어렵다고 보고 있다.
같은 보고서에서 고용정보원 박가열 연구위원은 회계사의 인공지능·로봇 대체율이 낮은 근거로 “회계사는 변화하는 법과 제도에 대응할 만한 전문성을 가졌다"고 설명했다.
- 이 기사에 따르면, 회계감사에서 인공지능을 적극적으로 활용하고있는 미국에서도 인공지능은 회계사의 판단을 보조하는 용도로 사용되고 있으며,인공지능을 도입한 이후로 인공지능이 기존에 시간과 비용의 한계로 수행하기 어려웠던 각종 조사 업무를 수행하고 있고,회계사는 인공지능이 산출한 데이터를 기반으로 판단 업무 및 회사 경영 자문에 집중하고 있다고 한다.또한 회계 업계에서는 인공지능을 회계감사 업무에 사용한 이후로, 회계법인에서의 회계사의 채용이 오히려 늘어났기에 회계사가 인공지능에 의해 대체된다는 주장은 성급한 우려라고 일축했다.
2.2. 막연한 오해
일단 숙지해야 해야할 건 인공지능의 발전 > 회계사 대체라는 과정이 그리 단순하게 일어날 수 없다는 것이다. 현재 해당 기사를 다루거나 단순히 주장하는 사람들의 경우 부가적 절차나 영향에 대해서는 대부분 무지한 체로 AI성능이 뛰어나니 곧 대체될꺼라는 막무가내식 주장이 굉장히 많다.한국에서 회계사가 대체 되기 위해서는 기본적으로
- 현 시점 기사에서 쏟아져 나오는 'AI가 뭘 했다더라' 수준의 단순 프로토타입이 아닌 보편적으로 양산하고 모두가 신뢰할 수 있을 정도로 인공지능이 발전해야 하고[3]
- 여러 선진국에서 선도적으로 AI가 업무 보조가 아닌 가치 판단의 주체가 되는 일을 하는데 논쟁[4]이 AI도입에 긍정적인 방향으로 끝나고 책임 소재나 윤리적 문제, 조작이나 해킹의 위험에 관한 문제에 대한 구체적인 대응 방안이 완비되어야 하고[5]
- 실제로 국제회계감사 기준도 인공지능 감사에 맞추어 변하고 여러 선진국들의 의회에서 인공지능이 회계감사를 수행할 수 있다는 입법적 절차를 끝낸 후[6] 이에 관한 인공지능 솔루션이 다시 나와야 하며[7]
- 해외 대형 법인에서 하나씩 도입을 시도하고 그 결과를 몇년 지켜보고 문제가 없다는 판단이 선 후에야 보수적인 한국에서도 막 토론이 시작될 것이다. 그리고 다시 한국에서도 위의 과정을 거치게 된다.
고작 사법고시가 로스쿨로 대체되는대도 상당한 기간과 진통이 생겼는데, 인공지능으로의 대체를 훨씬 가벼히 논하는 사람은 단지 인공지능 성능 > 직군 대체 가능이라는 1차원적 생각을 하는 경우가 많다. 로스쿨이 사법시험에 비해 비판받는 게 로스쿨 교수가 실력이 부족해서인가? 사람에서 로봇으로 결정권한이 넘어가는 것은 훨씬 복잡한 고차방정식을 풀어야 하는 논제이다. 그리고 회계감사자체는 국가별 독립적 사항이기에 외국이 한다고 따라할 의무가 있는 것도 아니다.
2.2.1. 대체가능 시기의 문제
애초에 상기됐듯 종교적 영역을 제외한 모든 영역은 종국에 AI의 위협을 받게 된다. AI의 발전속도나 기술적 능력에 대해 서술을 한다면, AI가 절대 못할 영역에서 종사할 수 있는 사람이 과연 얼마나 있을까? 그리고 굳이 왜 그걸 회계사 문서에 나열되는걸까?공인회계사 문서에서 굳이 AI에 대해 토론을 하는 것은 어차피 언젠가 AI가 모든 영역을 위협한다면, 여기서는 회계사에 있어 그 시기가 통상적인 화이트칼라직렬에 비해 상대적으로 이른지 혹는 느린지에 대한 토론이 주가 되어야한다.
이런면에서 공인회계사의 업무가 과연 대기업 사무직렬 혹은 공기업과 비교시 어떤가에 대한 문제가 가장 중요하다. AI 대체가능성에 대한 조사를 보면, 보통 일반 회사의 사무직렬은 조사대상에 포함되지도 않는 경우가 많다. 그들이 하는 일이 AI가 접근못해서가 아니라, 애초에 대체시기를 논할만큼의 특이성이나 방어해낼만한 전문성이 애시당초 없어서가 오히려 대부분이기 때문이다. 예를들면, 기계적으로 엑셀 돌리고 워드 파일정리가 주업인 직원이 대체가능성 순위에 없는건, 그들의 업무가 인공지능이 엑셀에 범접못할만큼 그 직렬이 독창성 있어서가 아니라 위협시기를 조사하고 논할 유의성조차 확보하지 못하고 있기 때문이다. 그리고 그러한 업무들을 AI가 뺏어가는건은 안타깝지만 이미 이슈조차도 잘 되지 못한다. 무인계산기가 생겼다고 캐셔라는 직종의 위기가 어디 화제가 되던가? 캐셔가 순위권에 없다고 변호사보다 안전한 직종였던가? 마찬가지이다.
회계사의 업무는 수학적인 공식으로 답이 나오는 것이 아닌 가치판단이 포함되는 추상적인 성격을 포함하고 있다. 이는 인공지능이 접근하는데 있어서 단순히 성능뿐 아니라 윤리적 논쟁까지 통과해야 한다는 것을 의미한다. 이는 인공지능의 대체가능시기를 늦춰주게되며, 단순히 효율성이 중요한 사무처리 종사자는 지니지 못할 강력한 방어막이 된다.
또한, 회계사의 업무의 인공지능 대체여부는 외부감사법과 공인회계사법의 법 개정을 요하는데, 이는 현재까지 법적으로 직역을 보장받고 있기 때문이다. 여기서 말하는건, 일반 공기업이나 대기업에서 사무직원 대신 AI를 도입하는 건 아무런 제약도 없고 법적인 직역보호도 없다. 법적인 직역보호를 받는 회계사에게 당장 대체가능성을 논하려면 그조차도 없는절대 다수의 일반 사무직원이 적어도 회계사보다는 안전해야할 것이다.
한국은 유럽에서 만드는 국제회계기준을 기준으로 따르고, 국제회계기준의 경우 한국에서 멋대로 바꿀수도 없고, 이에 따른 재무제표는 전세계적으로 공표하는 것이다. 회계사가 AI로 대체되려면 적어도 국제적인 합의가 필요하고 이에 대한 기준이나 논의, 여러 문제에 대한 방어망이 순차적으로 마련되어야 할 것이다. 허나, 일반 사무직렬이 AI로 대체하는데 이런 절차나 논의가 얼마나 필요할까?
공기업 등에서는 정년보장[8]을 이유로 괜찮다는 논지일탈을 범할 수 있으나, 상기되었듯 회계사는 직장이 아니라 자격증이다. 회계사 자격증 보유자가 공기업에 입사하는게 아닌 사람에 비해 유리하다면 유리하지 불리할 리가가 있겠는가? 회계사에게 있어서 공기업은 선택가능한 옵션 중 하나인 것이다. 심지어 그 공기업 내부에서 직무에서 조차도 적어도 회계사 보유 직원이 타 일반사무직렬에 비해서는 안전망이 두터운 경우가 대부분이다. 회계사가 공기업, 공무원에 지원하는 것은 가능해도, 공기업 직원, 공무원이 회계법인에 지원하는 것은 불가능하다. 이것만으로도 어느쪽이 운신의 폭이 훨씬 넓은지 설명이 더 필요할까?
언젠가 회계사도 인공지능에 의해 대체될 수 있다. 하지만, 회계사는 일반 대기업,공기업 사원들에 비해서는 이에 대응하고 이를 지체시킬 수단이나 제도적 방어막, 직무적 성격을 훨씬 많이 갖추고 있다. 적어도 언젠가 회계사도 결국 AI가 대체할 것이다라는 주장은 맞다. 하지만 그 언젠가는 적어도 다른 대부분의 대기업, 공기업 사원들보다는 훨씬 유의미하게 늦게 찾아올 것이다.
2.3. 결과를 신뢰할 수 없다
특정 업체에서 회계감사 인공지능을 출시하면 다들 그걸 사서 바로 대체하는 것도 아니다. 회계감사 기준은 국가마다 다르고 기준자체에 대해서도 계속해서 논란이 있고 개정이 되는 요소이기 때문에 대체가 어렵다. 해당 인공지능의 감사 결과가 정말 적정한지부터 논란이 시작될 것이다.이제 막 이슈가 된 알파고의 바둑은 정해진 '룰'에서 최적해를 따라가면 이기는 게임이며, 19*19 매트릭스에서 각 수마다의 확률이 존재한다. 하지만 회계감사는 그런 기준이 존재하지도 않을 뿐더러, 해당 기업의 재기 가능성 같은 모호한 요소는 더더욱 알고리즘이 도입되기 난해하다. 해당 알고리즘도 결국 인간이 짜는 것이라면, 모호성이 큰 판단을 인공지능이 결정하여 계속기업의 가정에 위배된다는 결정을 내리고 파산에 이른다는 것은 근시에 수용이 불가능한 일이다. 알파고를 운운해서 당장 회계사의 대체를 논할 것이면, 이미 1997년부터 체스는 인간을 압도하기 시작했는데 지난 20년간 회계사, 변호사들이 당면한 걱정이 인공지능이던가?
인공지능이 지금보다 더욱 발전하고 빅데이터에 빗대어 어느정도 종합적인 경제적,정치적, 회사 내부적 여건까지 고려하여 확률화한다 쳐도 이를 일률적으로 적용할 수는 없는 문제이다. '통계적으로 이러이러한 사항에서 80프로는 파산하니까 OO기업도 파산할 것이다' 라는 개별적 적용이 가능한가? 그래서 해당회사는 결국 인공지능의 의견에 의해 파산에 몰리고 종업원은 길거리로 내몰리면 그게 진짜 합리적인가에 대한 의문이 들 수 밖에 없다. 확률을 통해 전체적인 추세를 판단할지언정 개별적으로 적용하는 것은 전혀 다르다. 전국 중학생 중간고사 평균이 85점이라고 피치못할 결시생에게 85점을 주는 것이 가당키나 한 말인가.
2.4. 대중은 인공지능의 회계감사를 수용할 수 없을 것
- 회계감사나 재판은 불특정 다수의 대중에게 큰 피해를 줄 수 있는 중요한 문제이다.
기업의 파산은 관련된 이해관계자[9]들의 인생에 큰 영향을 끼칠 수 있는 매우 중요한 의사결정이다. 1990년대 대우그룹 분식사건이 한국 경제에 미쳤던 영향처럼 외부감사인의 결정의 사회적 파장은 크다.
다양하고 복잡한 수많은 거래들을 재무제표라는 몇장의 정리된 표로 만드는 일은 항상 복잡하고 미묘하면서도 애매한 판단의 문제가 있게 된다. 같은 사건을 두고도 수익으로 인식해야 하는가 부채로 인식하여야 하는지에 대해서 이해당사자들간에 이해충돌이 발생할 가능성은 다분하고, 그에 따라 기업의 미래실적에 막대한 영향을 미칠수 있을 뿐만 아니라 경우에 따라서는 기업자체가 소멸할 수도 있다.
- 기계는 감정이나 공감 능력이 배제된 채 수학적인 계산과 논리적 알고리즘에 의해 판단한다. 따라서 대중은 사람의 삶에 관한 최종 결정을 맡기는 것을 수용하지 않을 것이다. 이런 상황에서 순순히 인공지능의 판단에 따르기만 하는 '맹목적 숭배' 행위에 가까운 행동을 할 리가 없다. 아무리 기계가 발전해도 인간사회의 주인은 인간이고 내 인생을 작살내는 결정권자는 기계에 불과하다고 누구나 똑같이 생각할 것이기 때문이다.
중요한 의사결정을 사람이 아닌 기계가 결정한다면, 기술적으로 가능하다 할지라도 수많은 이해관계인이 이를 인정하고 받아들일 것인가의 문제가 발생한다. 이는 '전문가의 판단 능력이 인공지능보다 나은가'라는 능력의 상하를 논하는 문제가 아니다. 그래서 인공지능이 대체할 수 있는가 아닌가의 논란의 가장 중요한 주제는 '인공지능의 선택의 결과를 인간이 수용할 수 있는가'에 있다. 기술적으로 회계사의 주요 업무를 대체하는 것이 가능하다고 가정한다고 하더라도 사람들이 기계의 가치판단을 수용할 수 없을 것이다. 큰 손해를 보게 되는 결정을 받아들이는 입장에서 한낱 인간조차 되지않는 기계가 나의 인생을 결정했다는 사실을 받아들일 수 있을까? 수만명의 인생이 걸린 결정이라면 그에 따른 저항은 더 커질 수밖에 없다. 결국은 인간과 인간과의 관계의 문제이므로 이를 기계에 맡겨야 한다는 주장은 많은 사람들의 저항에 부딪히게 될 가능성이 있다. 특히 회계감사의 경우는 재판과 마찬가지로, 적어도 인공지능이 사람을 경제적으로 '심판'하는 위치에 서있다는 것을 간과해서는 안된다. 대다수의 국민이 이걸 수용할 수 있어야만 실제로 제도가 국회를 통과하여 작동할 수 있는 것이며 이는 인공지능의 기술적 성능이나 정교함과는 별개의 문제인 것이다. 이를 단순히 인공지능이 인간보다 오류가 적고 정밀하다는 논리로 맞받아치기에는 한계가 있다. 사람의 공정성에 대한 감정은 논리만 따라가는 것이 아니며, 여러 사람의 삶 자체에 영향을 주는 회계감사나 판결에 대해서 문제가 제기될 수 있다.
회계감사가 기업의 생사를 결정할 수 있는 의사결정이라면, 단순한 사실관계의 확인을 넘어선 인간의 감정이 관여할 수밖에 없다. 누군가의 인생[10]에 막대한 영향을 미칠 수 있는 결정은 단순히 사실만을 보아 결정해서는 안 된다. 기계는 사람을 위해 존재할 뿐 아무리 정교하다 하더라도 인간과 생명, 감정이 있는 존재들의 이익만을 위해 있어야 하며, 만약 특정존재에게 막대한 피해를 끼칠 수 있는 상황이라면 자신을 희생해서라도 그 존재를 위해야 할 존재이다. 이는 단순히 기계가 기술적으로 할 수 있는가 없는가의 문제를 한참 뛰어넘는 지극히 인간적이고 사회적이고 정치적인 문제이며, 감정의 문제이고 인간의 문제이다.
여기서 말하는 문제는 인공지능의 결정으로 인해 누군가 피해를 봐야만 하는 상황인 경우다. 자동차 예시에서 만약 인공지능이 운전자의 안전을 위해 아이를 치고 지나갔고, 천진난만하게 집 앞 마당에서 뛰어놀다 놓친 공을 쫓아 차길로 뛰어든 아이가 인공지능의 통제하에 운행되고있던 자동차에 치여 그 자리에서 즉사했다고 했을 때, 그 아이가 만약 당신의 소중하고 귀한 아이였다 한다면, 그래 내 아이가 잘못해서 찻길로 뛰어들어 내 아이가 죽는게 차안의 운전자의 안전보다 덜 가치있다고 판단하여, 그대로 내 아이가 죽도록 인공지능이 결정한 것이라면, 그 상황에 순응할 수 있겠는가.
- 아무리 프로그래밍을 열심히 하더라도 모든 사람의 가치관을 만족시킬 수는 없을 것이다.
다른 직역이지만 이를테면, 인공지능이 재판관보다 훨씬 더 방대한 판례를 처리한 결과 판례에 어긋나지 않는 일관성 있는 재판결과를 내릴 수 있다고 가정해보자. 이를 '공정하다'고 평가할 수 있을 것인가? 인공지능에 의한 '무기징역' 혹은 '전자발찌 30년부착', '화학적 거세' 이런 판결을 사람들이 순순히 수용할 수 있을까? 동일한 범죄를 저질러도 반성이나 죄책감의 기미에 따라 판결이 달라지는데 인공지능이 이런 감정의 크기까지 함수로 정량화하는 것이 당금 수용이 가능할까? 동일한 종류의 범죄라도 국민들이 각 사건에 느끼는 법감정에 따라 판결에 영향을 줄 수 있는데, 인공지능이 이러한 영역까지도 알고리즘에 포함시켜서 형량화시킨다는 것은 대중에게 받아들여지지 않을 것이다. '변호'는 최종판결이 아닌 피고인의 의견을 제시하는 것이기에, 변호사의 역량에, 그리고 실력에 따라서 판결에 영향을 다르게 줄 수 있다 한들 '회계감사' 결과는 판사의 '최종판결'에 대응해야 할 문제이다.
물론 아래 주장에서는 가치관 또한 인공지능이 멋대로 산출하는 것이 아닌 인간이 짜는 함수값이라고 하나, 그 '가치관' 을 대체 어떤 인간이 만들 수 있을까? 대기업에서 판결프로그램 인공지능을 만들고, 유수한 일류급 브레인들이 모여서 가치관 프로세스를 짜면 사람들이 그 일률적인 알고리즘의 가치판단을 수용할 수 있다는 말인가? 같은 사안이라도 사람마다 가치판단이 달라지고, 동일인이라도 상황에 따라 가치판단이 달라지는데 과연 오천만명에서 일률적으로 적용할 가치판단 알고리즘을 누가 어떤 권리와 자격으로 만들수 있을까? 당장 '민주주의'의 헌법 이념과 충돌할 수 있는 사항이다. 그리고 가치판단은 사회적 합의와 대중의 수용가능성을 전제한다.
- 동일한 문제가 발생했을때 기계가 책임을 지는 것과 사람이 책임을 지는 것은 명백히 다르다.
잘못된 의사결정에 대한 책임 소재 문제도 뒤따른다. 수조원에 달하는 거대한 기업집단의 추상적이고 모호한 경제적 실질을 잘못 판단하여 기업의 실질을 제대로 반영하지 못하는 재무제표를 승인하였고, 그 결과 수조원 대의 회계사기가 발생하면 그에 대한 책임을 인공지능이 질 수나 있는가? 회계사는 기업회계를 조사하고 검증하고 확인하여 결과적으로 그러한 회계사 자신의 판단에 근거하여 기업의 재무제표에 대한 신뢰를 시장에 보증하는 일까지 해야 한다. 여기서 중요한 건, 결과적으로 누군가에게 피해가 발생했을 때 그에 대해 책임질 수 있는가의 문제가 있는데, 기계에 불과한 인공지능에 무슨 수로 책임을 물릴 수 있는가? 책임질 수 없는 권한은 인간세계에 있을 수 없다. 무능하고 무책임한 정권이 그러하듯이 인공지능 또한 다를 것이 없다. 책임은 없고 권한만 있는 결정권을 인간은 절대 용인하지 않는다. 그렇기 때문에 설사 비행의 대부분을 자동항법시스템에 의지하였다 할지라도 그 비행에 대한 최종적인 책임의 귀인을 기장과 부기장에게 지고 그 성공에 대한 대가도 그들에게 지불되는 것이다.
'기계가 인간의 고유영역인 감정과 가치관의 최종결정자가 되는 것'이 잘못되었다는 문제제기에 대해서 '인공지능이 판단을 잘못했으니 만든 제조사가 책임을 지면 모든 책임이 해소되고 논란이 종식된다'는 것이야말로 논지 자체에 대한 이해의 무지인 것이다. 인공지능이 잘못된 판단으로 수많은 사람에게 삶의 악영향을 끼쳤을때, 사람들이 그 기계를 욕함으로서 무슨 위안을 얻을 수 있는 것이 아니다. 기계를 비난하면 피해자가 분이 풀릴까? 인공지능이 오류를 인식하고 알고리즘을 따라서 모니터에 '죄송합니다' 라는 문구를 내민들 그게 무슨 소용일까? 잘못된 판결로 한 사람의 인생을 비극으로 치닫게한 인공지능을 망치로 때려부수는 것이 무슨 소용인가? 인공지능 기계를 폐기처분한다 해도 동일한 회로구조를 가지고 같은 소프트웨어를 탑재한 설비는 얼마든지 찍어낼 수 있기에 책임을 다했다고 볼 수 없다.
사람은 문제에 대해 책임을 질 수 있다. 책임 소재라는 것은 피해자의 감정에 관한 것과 비난의 대상이 존재한다는 것이 포함되며, 단순히 금전적인 보상을 의미하지 않는다. 살인한 사람을 사형에 처하는 것 역시 유가족에게 위로가 된다. 살인범에게 가족을 잃은 사람이 배상소송으로 몇 억을 배상받는다 해도 살인범의 진심어린 사과를 대신할 수 없다. 인공지능은 자신의 잘못에 대한 반성을 할 수 없으며 피해자에 대한 속죄와 위로가 불가능하다. 사람은 감정적인 동물이며, 사람이 생물이 아닌 인공지능을 대할 때와 사람을 대할 때가 동일할 수 없기 때문에 발생하는 문제이다.
- 인간의 불완전성은 인공지능을 만드는 제조사의 '인간'에게도 동일하게 적용된다
2.5. 언젠가 수용한다 치더라도 먼 미래의 일일 것이다
인공지능의 수용은 기술력, 대중의 수용 가능성, 여론 조성, 제도적 수용 가능성이 모두 해결되어야 가능하다.기술적 증명조차 완벽하지 않다. 지금까지 컴퓨터가 기억력만으로 전문가를 대체하지는 못했다. 인공신경망으로 대체하겠다고 하지만 논문과 프로토타입이 나오고 있을 뿐이다. 컴퓨터가 회계감사에서 인간 이상의 판단력을 갖춘다는 주장은 육체노동을 제외한 거의 모든 지식산업직업이 사라진다는 주장의 변형에 불과하다.
기술력이 있다 쳐도 판단능력과 대중의 수용가능성의 문제는 중요하다. 정치 또한 예외는 아니다. 대통령과 참모진은 모든 상황에 대한 관련 지식과 해당 정책의 효과에 대한 확률값을 컴퓨터보다 더 정확하게 내릴 수 있을까? 아니라면 왜 컴퓨터가 대신 정치를 하지 못하고 있을까?
위에서 언급한 모든 문제가 해결된다 해도 제도적 수용 가능성은 높지 않다. 전문직에 대한 AI의 도입이 논의되면 회계사만 딱 떼어서 논의될 가능성은 낮다. 어느 전문직이든 한번 인공지능의 대체를 허용하면 사회적으로 큰 이슈가 될 것이다. 인공지능이 변호사를 대체한다는 법안이 국회에 상정되면 변호사 출신이 득실대는 법사위를 통과할 수 있을까?
이는 그리 간단하지 않다. 왜냐하면, 4대법인과 제휴한 각각의 법인들, 즉 PwC, KPMG, E&Y, 딜로이트의 위상과 영향력은 한국에서의 회계법인보다 훨씬 크고 발언권이 강한 편이며, 인공지능에 의한 직역위협을 눈뜨고 바라본다던가, 인공지능을 앞세운 신생회계법인이 자신을 위협하는 걸 냅둘 수 없기 때문이다. 또한 핵심영역을 대체하는 것은 비단 한국만의 논란은 아닐것이다.[12] 즉 AI을 도입하려는 여러 선진국들 각각의 검증과 논란, 입법이 끝나고 실제로 제대로 작동하는지 검증이 완료될 때쯤에야 한국에서도 논의가 시작되는 것이다.
회계감사의 경우는 외감법의 입법적 사항이 필요한 문제이다.[13] 보수적인 한국 특성상 여러 선진국[14]에서 먼저 인공지능에 의한 외감법이 통과되고 시행이 되어야 한국에서도 논의가 진행될 것이다. 설령 언젠가 수용이 될 수 있더라도 그 논쟁의 기간은 결코 짧지 않을 것이다.
그리고 제도적으로 논의를 시작하려면 일단 수용이 필요하다는 여론이 있어야 한다. 현 단계에서는 국민적 합의나 공청회 또한 전혀 없다. 그리고 이 또한 전혀 쉬운 것이 아니다. 일례로, 단순히 제도적 변경인 사법시험에서 로스쿨로 대체하자는 것에만 해도 국가주관 공청회가 80회가 넘게 열리고 만페이지 이상의 논문이 발표되었는데, 사람도 아닌 인공지능이 변호사를 한다는 주장이 수용되려면 오랜 시간이 걸릴 것이다.
이 때문에 한국 로펌, 회계법인은 전혀 인공지능에 대해 신경쓰지 않고 있다. [15] 로펌의 경우 오히려 로스쿨에 의한 과다공급만이 문제가 될 뿐이다. 한국에서 최근 가장 큰 이슈가 되었던건 '사법시험 존폐 논란' 으로 오히려 변호사라는 직업의 인식이 '희망의 사다리'였다는 사실만 확인해주었다. 이는 직역을 위협하는 인공지능의 도입이 오히려 국민감정에 대치된다는 근거가 될 수 있다.
회계사 역시 비슷하다. 2017년 한국의 현재 상황은 회계법인의 채용규모 확대, 연봉상승, 제도적 처우개선으로 인한 회계사 대우향상이다. 회계감사의 독립성을 위해 지정감사제의 재도입 논의만 국회에 올라와있을 뿐이다. 2017.7 공인회계사 채용계획은 4대 회계법인의 채용인원이 1100여명 규모로[16] 회계사 합격자 수(850~1,000)를 넘는 규모이다. 인력이탈을 막기위해 최대 14%의 연봉인상계획을 발표하였다. 게다가 6+3 지정감사제 본회의 통과[17]로 인하여 회계사의 처우개선과 연봉상승 기대감이 커지고 있는 상황이다. 인공지능이 회계법인에 미치는 영향은 당사자인 회계법인이 가장 잘 알고 검토를 하고 있을 텐데, 각 회계법인에서 대규모 채용계획을 발표하고 인력이탈을 막기 위해 연봉인상계획을 발표하는 것은 반대측이나 외국의 예측기관에서 말하는 인공지능 도입으로 인한 회계사 수요 감소 및 대우 하락과는 상충되는 결과다. 정작 당사자인 회계법인에서는 회계사가 더 필요하다고 아우성인데 비해, 반대하는 사람들은 현장(field)을 모른 채 외국의 논문, 기사를 인용하면서 회계사의 필요성을 줄어들 것이라고 주장하는 셈.[18]
또한 미국의 회계사의 위상을 근거로 한국도 그러할 것이라는 것은 애초에 잘못된 대응이다. 한국에서의 KICPA와 미국에서의 회계사는 각 나라에서 차지하는 위상이 다르며, 이는 변호사를 비교하면 더더욱 두드러진다. 미국에서 변호사라는 직업이 '인문계의 정점', '상류층의 상징' 혹은 '희망의 사다리'던가? 오랜 기간 변호사라는 직업이 결혼정보회사의 상위급간에 속하고, 사회적으로 손꼽히고 명망있는 인식이었던 한국에 비해 미국에서의 변호사는 '변호사농담' 만 봐도 알 수 있듯 위상이 훨씬 낮은 편이다. 이미 수십 년 전부터 전문직에 대한 대접과 위상이 달랐는데 외국의 사례가 이러하니 한국도 마찬가지라는 식의 유추적용은 어불성설이다.
아래에서 여러 반박으로 회계사의 역할이 줄어들 것이라고 주장하나, 중요한 것은 회계감사가 대체되지 않는 이상 회계사의 역할에는 지장이 없다 라는 것과 그 회계감사 인공지능을 도입하고 개발하는 회계법인 당사자들이 오히려 회계사의 수요를 늘리고 있는 것이 현실이라는 점이다. 회계사가 대체되기 위한 가장 중요한 요건인 외감법의 입법적 사항을, 어떠한 국민적 요구사항이나 논의도 없는 지금단계에서 단지 외국의 논문과 사례를 들면서 함부로 한 나라의 법이 빨리 개정된다는 예측도 논리적 근거가 굉장히 빈약할 따름이다.
장기적으로는 언젠가 대체될지라도 아직 기술적 증명도 완벽하지 않고, 제도적으로도 논의되고 있지 않다.
2.5.1. 다른 영역과 회계사 업무의 대체는 별개이다
- 경리의 대체는 별개이다
- 인공신경망을 사용한 머신러닝으로 인해 다른 직업(투자은행의 트레이더 등)들이 대체했다는 것은 회계사의 대체에 아무 영향을 주지 못 한다.
3. 위협한다는 의견
이쪽 의견에서는 인공지능이 빅4 회계법인[20]의 노동생산성을 대폭 향상시키는 상황을 가정한다. 2017년 기준 국내 빅4 회계법인에서 일하는 회계사 수는 약 26%. busy season 동안 이들의 노동생산성이 4배 증가한다면[21] 빅4 회계법인의 능력만으로 현존하는 국내 회계사 업계의 일을 모두 할 수 있게 되어버린다. 그렇다면 수요 공급의 법칙에 의해 중소형 법인에서는 출혈경쟁이 증가하게 되고 하위권 회계사의 대우가 극히 낮아지게 된다. 작게는 합격자의 절반만 빅펌에 들어갈 수 있게 된다거나, 크게는 KICPA를 딴다고 해도 직업 보장이 되지 않고 가산점 자격증 정도의 대우를 받게 된다든가. 이런 시나리오에서는 빅펌에서 높은 자리에 있는 회계사들, 미리 금융공기업 등의 공직으로 탈출한 회계사들 및 AI 시대 대응에 성공한 회계사들만 피해를 면하게 된다.일이 줄어든다는 것은 일자리가 안정적으로 보장될 때만 자신에게 유리한 것이다. 이전에는 회계사 여러 명이 있어야 기한을 맞출 수 있던 단순작업들을 인공지능이 더 높은 정확성, 속도, 효율성과 저렴한 가격으로 업무를 줄여버린다면, 회계법인의 나머지 회계사들은 잉여인력이 된다.
미국은 이런 인공지능 회계에 대응해 데이터 표준화를 위해 2018.3부터 상장사의 확장성 재무보고언어(XBRL) 사용을 의무화하도록 했다.
단 몇년 전까지만 해도 헛소리쯤으로 치부받았을 것이, 알파고의 등장 후 많은 사람들의 주목을 받고 있다. 1996년 체스는 알파-베타 가지치기 알고리즘을 이용해 정말로 모든 수를 검토하는 게 가능했다. 하지만 바둑은 수가 너무 많기 때문에 현존하는 슈퍼컴퓨터조차도 모든 수를 제한시간 내에 검토하는 게 불가능한 상황에서 컴퓨터가 '판단'을 통해 이긴 것이다. 판단조차도 AI가 가장 뛰어난 인간을 능가한다는 것이 굉장한 충격을 주었다.
전국의 회계사 18,469명이 1명도 빠짐없이 실업자가 되고 회계감사는 모두 인공지능이 수행하는 정도의 극단적인 미래를 가정하지는 않는다. 그쯤 가면 모든 사무직의 일자리가 위태로워지게 된다. 급진적인 미래학자들도 2045년은 되어야 기술적 특이점이 올 것으로 전망하고 있다.(레이 커즈와일, 구글 이사)
3.1. 대체의 방식
회계 분야에서 전문가 시스템이 처음으로 연구되기 시작한 것은 1977년이다. 하지만 그 시기에는 인공신경망이 없었기에 모든 규칙을 다 입력해놓고 Y/N을 수없이 거쳐서 결론에 도달하는 것이었다. 단순히 지식을 쌓아놓고 검색하는 데 그쳤다. 기억용량이 아무리 많아도 스스로 판단을 할 줄 모르므로 '전문가' 시스템은 전문가를 대체할 수 없었다. [22]인공지능이 다시 주목받기 시작한 것은 2000년대 중반 인공신경망의 치명적인 문제가 해결되면서부터이다. 인공지능의 도입은 그 쌓인 지식을 컴퓨터가 검토하면서 자기 스스로 규칙을 찾아내고 데이터베이스에 없는 새로운 문제에 그 규칙을 적용할 수 있게 바뀌었다. 애초에 인공지능이라는 존재 자체가 메뉴얼의 절차를 그대로 따라하는 것이 아닌 전문지식에 기반한 융통성이 필요한 판단을 하기 위해 만들어진 개념이다. 현재 발달속도가 가장 빠른 뉴럴네트워크에 기반한 머신러닝으로 작동하는 인공지능의 경우, 애당초 주어지는 방대한 양의 자료를 습득하는 "훈련"과정을 거치고 나면 "올바른" 답을 산출할 수 있는 알고리즘을 스스로 도출하는 것이 그 원리이지, 인간처럼 추상적 사고와 가치판단이라는 중간과정을 모두 거치면서 결과물을 내놓는 방식이 아니다.
회계감사에 적용되는 인공신경망 관련 기술(2016)의 예로는 자연어 처리, 음성 처리, 문장 분석, 이미지 인식 등을 들 수 있다.
- 이미지 인식, 이미지 검색: 2000년대 중반까지, 검색엔진은 사진 제목이나 해당 웹페이지에 '고양이'라고 쓰여 있어야 고양이라는 결과물을 출력했다. 구글이나 페이스북의 검색엔진이 고양이 사진만 보고도 고양이라고 인식하게 된 것은 2000년대 후반의 일이다. 이제는 검색 대상 웹페이지에 친절하게 '고양이'라고 쓰여 있거나 검색엔진에게 '다리가 4개 달리고 털이 나고 뾰족한 귀가 있고...' 하는 설명을 해 주지 않아도 사진만 보고 고양이를 인식한다. 7천만개의 고양이 사진을 보고 자기가 알아서 고양이 특징을 찾아내기 때문이다. 의료진단 분야의 전문가 시스템이 처음으로 연구되기 시작한 것은 1976년이다. 그리고 IBM 왓슨이 미국에서 실제로 의사와 비등한 성과를 내기 시작한 것은 2015년 즈음이고, 한국에 도입된 것은 2017년 초다. 이제 인공지능은 사진을 보면 영상의학과 의사가 의대에서 11년간 수련받은 것만큼 질병을 잘 파악한다.
회계감사에서 이는 자동화된 드론을 통해 재고조사를 수행하는 방식으로 나타난다. 또는 주차장이나 매장 앞의 CCTV 데이터를 분석하여 유동인구와 매출을 비교하면 매출을 조작하지 않는지 확인할 수 있다. - 자연어 처리, 문장 분석: 2016년 말부터는 구글 번역 역시 인공지능을 도입하여 꽤 외국어를 잘 하게 되었다. 구글 번역 부서에는 언어 관련자가 한 명도 없다. 2017년 현재, 사람에게 특정 외국어[23]를 구글 인공신경망 번역만큼 하게 만들려면 full-time으로 2년 가까이 훈련시켜야 한다. 이렇게 된 것은 그리 오랜 일이 아니다. 2016년 초까지만 해도 구글 번역은 인공지능 이전의 알고리즘을 쓰고 있었으며, 내용의 이해 자체가 어려운 조잡한 결과물을 내놓는 경우가 허다했다.
이는 기업 활동을 분석하는 데 활용 가능하다. 예를 들어 투자은행 중 골드만삭스의 경우 2016년 중순 인공지능 프로그램 '켄쇼'를 도입하였는데, 2000년 트레이딩 부서에 600명의 트레이더가 있었지만 2017년에는 2명 남기고 모두 잘라버렸으며 200명의 프로그래머를 해당 부서에 고용하였다. 이걸 가지고 '그래도 아직 2명 남아있으니 트레이더는 인공지능이 대체할 수 없는 직종'이라고 말하기는 힘들다.[24]
회계감사의 대상은 기업이므로, 회계감사에도 활용 가능하다. 예를 들어, 컨퍼런스 콜 대본, 회사 내부의 보고서들, 뉴스 등을 기계가 읽고 감사 결과와 비교할 수 있다. 인간과의 차이점은 인간은 인원이 제한되어 있으므로 직감 위주로 문제가 생기기 쉬운 부분만 골라서 읽는 반면, 기계는 문자 그대로 다 읽는 게 가능하다는 것.
이런 수단들을 통해 통상적인 분식회계 수법들[25]에 대해 적은 노동으로 많이 잡아내게 된다.
3.1.1. 4대 회계법인의 연구개발 동향
2017.7 인공지능 회계감사 분야에서 가장 빠르게 움직이는 곳은 4대 회계법인이다.KPMG는 IBM의 인공지능 프로그램인 ‘왓슨’을 기반으로 감사 프로그램을 개발하고 있다. 한 회계법인 관계자는 “왓슨의 최대 장점인 자연어 처리 능력을 활용하면 데이터 정리·분석뿐 아니라 회계사의 의사결정을 도울 최고의 보조자가 생기는 것”이라고 말했다.
딜로이트는 핵심 데이터를 추출하는 분석 프로그램 ‘알거스’를 사용하고 있다.
언스트앤영(EY)은 감사 프로그램 개발을 위해 4억달러를 쏟아부었다. 2016년 영국/아일랜드 지사 회장은 '2020년까지 AI 영향으로 회계 대학원 신규 모집 인원이 최대 절반 줄어들 수 있다'고 전망했다. 고객사들이 모든 리스 계약을 검토, 분류하는 데 활용할 AI 도구를 2017년 중 선보일 예정이다.
2016년 말 일본의 '신일본감사법인'[26]은 80명의 회계사 및 기술자를 동원해 '인공지능을 이용해 부정회계를 막는 감사시스템' 개발에 착수했다. 2018~2019 실용화를 목표로 하고 있다. 작동 메커니즘은 2가지다. 첫째로 기업의 장부상 데이터를 해석해 '통상보다 대폭 높은 단가에 의한 거래' 등 부정의 징후를 조사한다. 둘째로 재무제표를 해석하면서 '과거에 실제로 부정이 있었던 기업의 사례'를 참고해 유사한 특징이 없는지 선별한다. 이렇게 시간과 일손이 소요되는 체크 작업을 AI가 수행하고, 시스템이 추출한 정보는 품질관리 담당 부서나 담당 회계사에게 보고된다. 회계사는 고객 기업과의 논의에 시간을 할애하거나 감손손실(고정자산에서 발생한 회계상의 손실) 등 고도의 판단이 필요한 업무에 집중한다.
2017.5 수출입은행은 EY 등 컨소시엄과 협의해 부실기업 예측 여신심사 모델을 만들기로 했다. SNS, 뉴스, 댓글 등에서 전파되는 비정형화 데이터 및 회계감사 데이터를 모아서 여신 감리 시스템을 만드는 것이다. 대우조선해양처럼 인간 회계사가 회계감사에서 부실을 드러내지 않았던 회사에 대해서 기존의 여신 심사 모델로는 부실 징후를 제대로 예측할 수 없었으나, 새 시스템에서는 정확도가 올라간다.[27]
PwC는 2013년 실시간 회계감사 프로그램 '헤일로'를 개발했다. 기업의 데이터를 입력하면 헤일로가 이를 분석해 이상한 재무 흐름 등을 콕 집어낸다. 분석 엔진의 성능이 뛰어나 데이터 ‘전수조사’도 가능하며 태블릿PC 같은 모바일 기기로도 사용할 수 있다. 2016년 4월 일본 PwC아라타 감사법인은 기업 회계장부 자료 전체를 컴퓨터로 분석해 분식을 찾아내는 시스템을 갖췄다. 결산처리 장부 데이터를 컴퓨터가 모두 읽은 후 수치는 물론이고 입력자와 시간까지 분석한다. 실제 거래일과 장부 입력일 차이가 많이 나면 회계조작을 의심하는 방식이다. 액수 단위가 인위적일 때도 검토 대상이 된다. 지금까지는 회계사가 조사할 항목을 지정하지만 앞으로는 인공지능이 모든 것을 도맡아 하게 된다. 2017년에는 전사적 자원관리 프로그램인 ‘아우라’ ‘커넥트’라는 보조 프로그램을 개발해 헤일로와 시너지 효과를 내고 있다.
3.2. 대중은 인공지능의 회계감사를 전문가보다 신뢰할 수 있다는 의견
여기서 더 나아가 인공지능이 회계감사의 주책임자의 권위조차 대체할 수 있을지에 대한 의견도 있다. 물론 이것은 6명이 20일동안 해야 할 감사를 0명이 수행하는 수준으로 대체율이 높은 것이기에, 기술적으로든 윤리적으로든 2035년 내에 이루어지기는 힘들 것이다. 다만, 서술의 편의상 기술적으로는 가능하다고 가정한다.- 대중은 피해 기댓값[28]이 적은 쪽을 선호한다.
기계는 당연히 사고를 친다.[29] 인간도 당연히 사고를 친다.[30] 어떤 전문적 업무를 기계로 대체할 때 대중이 중요하게 생각하는 것은 절대적으로 사고가 나는지 안 나는지보다는 인간에 비해 사고가 적은지 많은지다.
- 회계감사의 특성상, 인간이 사고칠 확률이 잘 발달된 기계+프로그래머가 사고칠 확률보다 높을 것이다.
회계감사에서 인간의 욕심은 끝이 없기 때문에, 기계가 터뜨리는 사고가 인간보다는 적다. 항공기 조종이나 의사의 의료진단의 경우 극히 특수한 경우를 제외하면 일부러 인간이 요구받는 책임을 다하지 않아서 문제를 일으켜야 할 인센티브가 없다. 하지만 회계사의 가치판단은 다르다. 회사에서 분식회계를 일으키는 것을 눈감아주고 다음 해의 계약을 따낼 수 있다면 회계사는 어떻게 행동해야 할까? 인간 회계사에 있어서 분식회계는 결코 드문 범죄가 아니었다.
프로그래머도 물론 돈을 받고 사고를 칠 가능성이 있다. 하지만 이 쪽은 회계감사와 달리 품질보증팀이 붙는다. 인간 회계사가 감사를 할 때 회계사의 머릿속을 회계법인이 감시하는 건 불가능하지만, 짜 놓은 코드는 품질보증팀의 감시 대상이 된다. 금융권 IT의 특성상 완전무결성이 중시된다. 회계사가 분식회계를 저질렀다 발각되면 감옥에 가듯, 프로그래머가 사기를 쳐서 해당 프로그램이 신뢰를 잃으면 SW 제조사는 사실상 망하게 된다. 회계감사 인공지능이라는 거대한 프로젝트에 들어간 자본의 특성상 품질보증팀이 셀수도 없을 만한 검증 절차를 거칠 수밖에 없다.
사실, 인간보다 오류를 더 많이 일으키고 더 많은 피해를 주는 초기 단계에서는 애초에 시장에서 팔리지 않을 것이다.
- 금전적 피해를 당할 수 있는 입장에서는, 사고 치고 사죄를 받거나 보복을 하는 등 인간적인 책임을 부담시키는 것보다 금전적 피해를 당하지 않는 쪽을 더 선호한다.
딜로이트 안진회계법인은 대우조선해양의 분식회계를 눈감아주는 쪽을 선택했다. 그 결과 1만명 이상의 실업자가 발생했다. 물론 인간 회계사가 사고를 치면 회계사가 감옥에 가기도 하고 회사가 영업정지를 받기도 한다.[31] 주식 투자 했는데, (1) 이 돈을 분식회계로 인한 회사 파산으로 인해 잃고 그 대가로 분식회계를 눈감아준 회계사 몇 명을 징역 1.5~2.5년 보낸 후 진심어린 사과 받기, (2) 해당 회사가 분식회계 당할 가능성 낮춰서 돈 지키기, 둘 중 어느 쪽을 선호할 것인지 생각해보면 된다. 부정한 회계사가 설사 양심의 가책을 느끼고 자살을 했다거나 법원에서 사형을 당했다 한들, 잃어버린 돈이 천원에 불과했다 한들, 분식회계가 애초에 일어나지 않아서 천 원도 지키고 회계사도 계속 활동하는 게 더 인간적인 결말일 것이다. 실제 분식회계로 인해 손해볼 수 있는 수 조원에서는 더더욱 이런 갈등이 커지기 쉽다.
- 가치관 논쟁이 있을만한 문제는 기계가 순간 자율적으로 판단하는 게 아니라 인간이 판단해서 프로그램에 미리 넣어 놓을 것이다.
근미래 인공지능과 관련한 법적 공방들은 프로그래밍 과정에서 어떤 가치관을 우선으로 대변할 것인가 (예시: 달리는 차의 정면에 아이가 뛰어들고 좌우와 뒤쪽으로는 고속으로 달리는 다른 차들이 있을 때, 자동주행차가 아이를 살리기 위해 탑승자가 심각한 부상을 입거나 사망할 가능성을 감수하고서라도 급제동이나 회피를 시도하여야 하는가, 아니면 기계의 뛰어난 연산속도 덕에 아이를 살릴 가능성이 있음에도 탑승자의 안전을 우선하여 그대로 달려야 하는가)에 집중될 가능성이 크다. 하지만 아이가 달리는 차 앞으로 뛰어든 위의 사례에서 자동차에 탑재된 인공지능이 아이, 자동차 탑승자, 주위 자동차의 탑승차 중 어느 쪽의 안전을 우선시하여 대처할 것인가를 순간적으로 판단하기를 기대하는 사람은 현 단계에서 아무도 없다. 그것은 현실성도 없으며 현재의 사회제도상 바람직하지도 않은 발상이다. 그러한 가치관의 우선순위 문제는 제작단계에서 인공지능에 패러미터로서 프로그래밍이 되어 있어야 하는 조건이며, 그 프로그래밍을 담당하는 엔지니어들은 판례와 법규 등 기존의 유권해석 자료를 기반으로 인공지능이 어느 상황에 어떻게 대처할 것인지에 대해 가능한 한 세밀한 규정체계를 입력하게 될 것이다. 그러나 이러한 과정을 거친 이후, 막상 도로주행 시 실제 위와 같은 상황이 닥치면, 법적 근거를 갖춘 우선순위 체계를 기반으로 빠른 판단을 내려 아이를 구하기 위해서든 자동차 탑승자들을 구하기 위해서든 자동차를 움직이는 주체가 되는 것은 아주 가까운 미래에 인간이 아닌 인공지능으로 통일될 것이다. 인공지능은 인간에 비해 비교할 수 없을 정도로 빠른 반응속도와 뛰어난 주변환경 감지능력을 바탕으로 인간보다 월등한 일관성과 안정성으로 법이 정한 가치체계에 걸맞은 대처를 해내는 것이 가능하기 때문이다. 이렇게 인공지능에 완전히 의존하는 자동차 주행이 일정 비율 이상으로 보편화되고 나면 도로 상의 인간 운전자의 존재가 가져다주는 불확실성이 인공지능 자동차들의 주행속도와 안전성에 가장 큰 한계로서 작용할 것이며, 이에 따라 인간에 의한 운전에 점차적으로 법적 제약들이 가해지리라는 것이 현재 업계 관계자들의 지배적인 예측이다.
- 인간이 기업의 계속기업가정에 대한 가치판단을 내려도 객관성에 의문이 제기된다.
가령 대우조선해양의 처리 문제를 놓고 맥킨지&컴퍼니 보고서가 발표되었으나 조선업계에서는 맥킨지 보고서에 신뢰성이 없다는 반발이 나오고 있다. 이 문제를 놓고 맥킨지 대신 몇 명의 회계사가 결정한다 하더라도 단지 몇 명의 사람이 수많은 사람들의 미래를 결정한다는 데 반발이 있는 건 마찬가지이다. 그 말을 바꾸어 말하면 중요한 문제는 회계사가 결정하더라도 손해를 보는 사람은 공평성에 대한 불만이 있다는 것이다. 인공지능의 경우 오히려 사심이 없기 때문에 인공지능의 판단은 '회계사가 아닌 사람들' 입장에서는 더 큰 믿음을 준다. 병원 인공지능 왓슨의 경우에도 의대 교수와 왓슨의 판단이 다를 경우 일반인들은 왓슨 쪽을 따르는 경우가 더 많았다.
- 손해배상이 가능하며 인간의 확인을 통해 오류를 줄일 수 있음
오늘날에도 소프트웨어가 오판을 해서 사고가 발생한다. 생산이나 설계 단계에서 그 원인이 되는 오류를 걸러내지 못했다면 그 책임은 제작사에서 금전적으로 지게 된다. 버그라면 보증 여부에 따라 하드웨어 제작사나 소유주가 지게 된다. 만약 재판과정에서 소프트웨어의 오작동이 없었고, 사고의 원인이 조작자의 미숙이나 실수였던 것으로 밝혀진다면 사고의 책임은 조작자가 지게 된다. 예를 들어 회계감사 인공지능이라면 그를 사용해 업무를 보던 회계사가 인공지능의 잘못된 출력을 발견하지 못하고 넘어갔다든지, 또는 변수입력과 설정 과정에서 오류를 범하였다든지 한다면, 인공지능이 제시한 자료를 검토하고 최종 서명을 하는 해당 회계사에게 책임이 있는 것이 된다. 현재 이루어지고 있는 업무형태를 단순하게 있는 그대로 적용해보아도 인공지능의 활용으로 인한 책임소재 문제는 정리된다.
가장 가까운 예시는 비행기다. 현대의 항공기는 이착륙을 제외한 거의 전과정을 기계가 조종하고 있으며, 실제로는 조종사가 없더라도 승객을 안전하게 운송하는 것이 가능하다.
자동운항을 하는 여객기에 탑승한다는 것은 신의 창조물의 생명을 겨우 인간의 창조물에 좌지우지하게 하는 신성모독이라 할 수 있을까? 그리고 이런 기계가 사람의 목숨을 빼앗았을 때 그런 막중한 책임을 겨우 인공지능이 질 수 있을까? 책임 없는 권한을 함부로 휘두르는 것을 막기 위해 자동운항 항공기의 운항을 금지시켜야 할까? 답은 독자들이 아는 그대로다. 자동운항에 전적으로 의존하다 사고가 나는 경우가 있는데 항공사가 손해배상을 한다.- 기타
인간의 창조물이 신의 창조물의 생애를 결정한다는 것이 있어서는 안 될 일이라는 것 역시 특별히 객관적인 근거는 없는 지극히 주관적이며 알맹이 없는 수사에 불과한 주장이다.
3.3. 빠르게 법이 바뀔 수 있다는 의견
분식회계로 큰 피해를 볼 수 있는 계층은 천만원으로 주식에 손 대 보는 동네 아저씨들이 아니라 헤지펀드 같은 국제적 금융자본이다.아무 징조 없이, 인공지능이 꽤 잘 한다는 이유만으로 법 개정을 통해서 회계감사의 주책임자가 인간 회계사에서 인공지능으로 바뀔 가능성은 낮다. 국제회계기준이 개정되면서 확장성 재무보고언어(XBRL) 사용을 의무화하거나, 국세청에서 탈세를 줄이기 위해 인공지능 시스템을 도입하거나 하는 식으로 진행될 것이다. 아니면 한국 시장에서 대우조선해양 같은 조 단위 분식회계가 다시 터졌는데 마침 미국에서 인공지능 회계감사가 성공적으로 작동 중이라면 언론에서 질타하는 식으로 도입하게 될 것이다.
미국 주식 시장에서도 1ms보다도 짧은 단위의 속도로 거래를 하여 극미한 차익을 남기는 인공지능의 존재가 완전히 자리잡은 상태이다. 그 과정에서 큰 사고를 치기도 했지만 주식시장에서의 인공지능의 사용은 줄어들기는 커녕 더욱 공고하게 자리잡고 있다.[33]
자동차 운전의 자동화에 대하여서도 사회에 의해 받아들여지지 않을 것이라는 비판들이 이어져 왔지만, 기본적인 도로주행은 인간의 조종 없이 가능한 자동주행 기능이 있는 테슬라의 자동차들이 이미 미국 거리를 주행하고 있고, 구글, 애플 등 전세계 최고의 규모와 가치를 자랑하는 기업들이 적극적으로 자동운전 자동차의 개발에 전념하고 있다. 구글의 경우 이미 미국 전역에서 시범모델의 길거리 주행 실험을 광범위하게 시행하고 있으며, 기술적으로는 제품이 거의 완성단계에 이르렀다는 보도도 많다.
2016년 이후 미국 대형 로펌들에서도 신입 어쏘들의 주요 업무인 discovery[34]를 인공지능 프로그램이 거의 완벽하게 해내게 되면서 변호사 신규 채용이 급감함은 물론 시간 당으로 수임을 청구하는 전통적인 계약형태까지 존속 위협받고 있다는 보도들이 이어지고 있다.
참고로 에어비앤비 같은 것도 등장 직후에는 우리나라에는 절대 허용될 수 없는 불법 사업이었다.
[1] 인공지능이 해당 문제에서 최적해를 발견해 주는 것[2] 전체 취업자 2,560만명의 70% 이상[3] 당장 대체 쪽이 연구 동향에서 제시하는 실제 인공지능 사례들도 대부분이 회계사의 업무를 보조하고 회계사들이 판단할 수 있도록 돕는 기능을 수행하고 있다.[4] 단순 회계사에게만 일어날 리는 없다. 회계사 하나만 ai를 대체할까 말까이기보다는 변호사든 판사든 의사든 광범위하게 이루어질 것이다.[5] 인공지능이 가치 판단을 해서 시행하게 되는 문제는 작은 것이 아니고, 한번 감사 결과가 나오면 사실상 불가역적일 수 있으므로 어중쩡하게 일단 시행하고 여러 문제에 대한 대책은 그때 가서 생각하자는 식의 안이한 주장은 무산되기 굉장히 쉽다. 바꿔 생각해보자. 여러 문제의 소지가 있는데 나중 가서 생각하고 어찌됐건 일단 인공지능 판사로 재판부터 해보자는 게 가능할까?[6] 한국이 제일 먼저 선도적으로 AI를 도입할 리도 없고, 4대 회계법인과 제휴 중인 본사들은 다 외국계 대기업들이다. 또한 고작 몇개 국가에서 시험적으로 인공지능을 도입했다고 한국에서 좋거니 하고 따라할 정도로 쉬운 문제가 아니기도 하다.[7] 회계감사 인공지능 솔루젼을 각 IT 업체들이 스마트폰 만들어내듯 입맛대로 만들수는 없으므로 여기에 관해서도 규정이 도입되어야 할 것이다.[8] 애초에 공기업은 공무원이 아니며, AI 등으로 인력소요가 줄면 공기업에 대한 국가배정 예산이 줄어들고 인력채용이 줄어든다.쉽게 말하면 승진 적체 + 성과금 감소 + 신입직원 감소 트리플 크라운이 달성되므로 정년보장이니 괜찮다고 우길 것도 아니다. 사실 이런식으로 회계사랑 비교할거면, 일반적으로 어지간한 상위급의 공기업 직원이 정년 꽉 채워서 근속하여 벌 평생소득만큼을 회계사가 버는 속도가 훨씬 빠르므로 공기업이 유리하다고 할 것도 없다.[9] 주주, 채권자, 임직원, 각종 관계회사와 그 이해관계자, 관련된 지역 주민, 이해관계자들의 가족 등등[10] 삶, 행복[11] 예: 경쟁사의 회계감사에 대해서 해당 감사를 진행하는 인공지능의 담당자를 회유[12] 현재 한국의 회계사의 위상이나 한공회의 발언권은 외국에 비해 좋다고 할 수 없으며 감사수임료는 오히려 굉장히 초라한 수준이다.[13] 모든 전문직에 확대되려면 경우에 따라 개헌이 요구될 수도 있는 사항이다.[14] 미국 등[15] 미국의 로펌에서 인공지능 도입이 문제가 되더라도, 여긴 한국이다.[16] 2년 전인 2015년의 채용규모는 800명대였다.[17] 마지막 변수였던 기업의 선택지정요구마저 국회에서 철회됨으로서 기존 자유수임제 하에서보다 회계사의 대우향상과 저가수임문제의 해결은 이미 공공연하게 예측하고 있는 상황이다. 지정감사제와 자유수임제 하의 회계사의 수임수익은 최대 3배까지 차이날 정도로 큰 사안인 것이다.[18] 2017년 10월 27일 W학원에서 진행된 EY회계법인의 파트너 감사본부장에 의하면, AI의 도입은 법인내에서도 이미 검토하고 도입이 진행되고 있으나 현직 회계사를 대체할 거라는 판단은 법인에서도 하지 않으며, 회계사의 수요는 더 늘어날 것이고 오히려 회계사가 부족해서 합격인원을 2천명 수준으로 늘려야 한다는 강연내용이 있었다. 2017년 10월 29일 아직 업로드 상태라 누구나 들을 수 있으며 이게 가장 진지하게 조사하고 검토할 당사자인 회계법인에서의 판단이다. 참고로 해당 EY회계법인은 세계시장 점유율 28.9%로 최대 회계법인 중 하나이다.[19] 계산능력, 작업처리능력[20] 인공지능 업계에서 가장 선두에 있는 것은 4대 회계법인이다. 이들은 현재보다 규모가 더욱 커져 회계사 시장을 완전히 과점하게 될 수도 있다. 자금력 문제로 중소법인들이 자체적으로 인공지능 회계감사 프로그램을 개발하기 어렵기 때문이다.[21] 예를 들어 현존하는 한 대기업의 회계감사는 2018년 기준 회계사 6명이 20일간 수행하고 있다. 이것을 회계사 3명이 10일간 수행하는 것으로 줄여버리고 나머지 일을 인공지능이나 사무직원에게 맡길 수 있게 된다면 회계사 인력 수요가 75% 감소한다.[22] 이 시기에는 당연히 회계사를 대체할 수 없었다. 영어사전을 컴퓨터에 입력한다고 번역을 할 수도 없었고, 역사책을 컴퓨터에 입력한다고 사학과 교수를 대체할 수도 없었다.[23] 2017년 중순 현재 영어의 경우 토익 600~700 수준[24] 투자은행의 S&T 부서는 주식, 채권, 원자재 등을 거래하는 부서이다. 수십억대 주식 거래라는 건 재무제표, 애널리스트들 보고서, 뉴스 등을 보면서 진행된다. 요즘 인공지능은 기업의 주가에 영향을 미치는 신문기사 등을 보면서 '트레이더가 취해야 할 주식투자 전략'에 대한 보고서를 몇 분 내에 써 준다. 2010년대 초반까지만 해도 사람이 보고서 하나를 쓰는 데 40시간 정도가 걸렸는데, 이들의 연봉이 평균 3.5억원에 달했다. 그리고 당시 이들은 절대 자신들의 업무가 기계에 대체될 수 있다고 생각하지 않았다.[25] 원가를 축소하여 같은 매출으로도 이익이 많이 난 것처럼 위장한다든지, 허위 매출을 만들고 나서 그 매출을 근거로 돈을 빌린다든지[26] 일본 최대. EY 제휴법인.[27] 이런 모델은 역으로도 사용 가능하다. 회계감사 상으로는 멀쩡한데 비정형화 데이터에서 문제가 드러난다면 분식회계를 의심해 볼 수 있는 것이다.[28] 확률 × 사고쳤을 때 평균 손해액[29] 설계 오류, 하드웨어 오류, 설계자가 예상치 못한 돌발상황의 발생, 기계가 잘 하지 못하는 종류의 판단을 기계가 해야 할 때, 기계의 처리능력 한계, 작업자가 잘못 입력, 설계자가 돈 받고 일부러 잘못된 프로그램 제작, 작업자가 돈 받고 일부러 잘못된 입력, 피감사기업이 프로그램에게 사기치기...[30] 착오, 지식 부족, 인간이 잘 하지 못하는 종류의 판단을 인간이 해야 할 때, 인간의 처리능력 한계, 원자료를 작성한 사람들이 잘못 입력, 회계사가 돈 받고 일부러 잘못 판단, 피감사기업이 회계사에게 사기치기...[31] 배 이사는 징역 2.5년, 임 상무이사와 강 회계사는 1.5년, 엄 상무이사는 징역 1년에 집행유예 2년을 선고받았으며, 회계법인은 벌금 7,500만원과 함께 영업정지 1년을 선고받아 큰 타격을 받았다.[32] 폰 노이만이 인공지능에 대해 했던 말중에 이걸 설명하는 말이 있다. "당신은 기계가 할 수 없는 것이 있다고 주장한다. 만일 당신이 그 기계가 할 수 없는 것이 무엇인지를 정확하게 이야기해 준다면, 나는 언제든지 그 일을 수행할 수 있는 기계를 만들 수 있다." 만약 인공지능이 고려하지 못 할 것이라고 생각하는 가치관을 명확하게 말한다면 그것은 알고리즘에 추가하면 그만이다.[33] 2010년의 Flash Crash. 주식거래 인공지능들의 상호작용 과정에서 1초 미만의 시간 만에 주가가 급락하여 큰 파동을 일으킨 사건. 아직도 정확한 원인이 밝혀지지 않았다.[34] 재판 사전 사건 관련 서류의 정리와 분석 과정