해당 지문에서 말하는 자동화로봇의 규칙을 모른다는거는
현존하는걸 말하는게 아니라, 현재는 없지만 모든 일이 자동화 가능해진다면 그 새로운 로봇에 대한 규칙일거에요
현존하는 자동화 로봇은 당연히 제작사에서 대부분 파악하고 있고, 그 외 파악하지 못했던 내역에 대해선 끊임없이 업뎃하며 수정해나갑니다.
원문이 있어야 컨텍스트에 맞춰 의역이 될 것 같은데 ...
일단 앞의 문장으로 유추해보면, 기계학습(특히 신경망 기반으로)을 통해 구축된 모델의 경우에는 모델이 어떤 입력에 대해 어떤 출력을 내놓도록 parameter가 조정되어 있는지는 파악할 수 있어도, 이것이 실제로 무엇을 의미하는지 해석하는게 어려울 경우가 있습니다. 혹은 미래에 로봇에게 어떤 규칙이 필요할지 우리가 미리 예측할 수 없다는 취지일 수도 있고요.
금융시장을 예시로 들면서 그 금융시장이 어떻게 돌아가는지 그 규칙을 우리는 모른다는 말 아닌가요? 규칙이라고 번역해서 오해의 소지가 있는 것 같은데, 여기서는 규정을 말하는 게 아니라 금융시장에서 어떤 일이 어떤 식으로 일어나는지에 대한 원리를 의미하는 것으로 보입니다. 예컨대 주식을 사고파는 것을 전부 인간이 한다고 해도 1년 후의 주가를 정확히 예측할 수 있는 건 아니지요. 주식이나 기타 금융 상품들이 어떤 원리에 따라 움직이는지 파악해서 예측하는 건 세계 최고 수준의 수학자들을 모아놓더라도 굉장히 어렵습니다. 그리고 자동화로 이런 종류의 문제에 대응할 경우, 자동화가 인간이 작성한 프로그램을 통해서 이루어진다면 프로젝트 문서를 보면 알 수 있겠지만, 머신러닝을 통해서 자동화가 된다면 실제로 컴퓨터가 비교적 잘 대응하는 가운데에서도 사람은 그 규칙을 파악하지 못할 가능성이 높습니다. 딥마인드가 알파고 만들었다고 딥마인드 직원들이 바둑을 잘 두게 되는 건 아니잖습니까.
새로운 시스템의 개발자조차 그것이 초래할 "규칙의 변화"를 파악하기가 힘이 듭니다. 아무리 인공지능을 다루는 똑똑한 사람이라 해도 이 복잡한, 수십억 인구가 바꾸어 가는 사회의 변화, 자신의 소프트웨어가 어떤 변화를 만들지를 정확히 예측하는 것은 불가능하죠. 물론 자신이 개발함으로서, 투자도 유치하고 하려면 최대한 그 변화의 가치를 투자자들에게 설명하고 어필하긴 해야겠지만 말이죠. 사실 현재 사회 전반에 걸쳐 일어나는 현상인데, 자동화와 인공지능의 활용은 사람이 상상하기 힘들 정도로 많은 변화를 만들어 낼 것이라는 거죠. 마치 컴퓨터나 스마트폰이 보편화되기 전후의 세상과 직업 구조가 다르듯이 말입니다. 또한 이러한 자동화에 의해 점점 단순노동직이 사라지게 되는 방향으로 바뀔 텐데, 우리는 예측을 할 수가 없으니 대비도 힘들다 라는 무력감 또한 존재하죠.