어어 왜 스카이넷이

그래서 OAI는 인간이 초지능을 정렬하는 것이 아니라 초지능보다 조금은 멍청하지만 인간보다는 약간만 똑똑한 AGI를 최상위 헌법 모델로 두고 그걸로 초지능 정렬하는 걸 기대한다고 밝힌 바가 있음

실제로 이 방법은 지금 빙 검색 등에 쓰이고 있고 챗GPT에도 쓰이고 있는 걸로 추정됨

그냥 뛰어난게 아니라 많이 뛰어나야될껄? 사람끼리 능지 차이 좀 많이 나도 현실적 제한을 완전히 벗어나기 힘들잖아. 1:1의 상황에서 한정적인 주제로 토론을 한다거나, 특정 작업을 한다거나 하면 백인베기도 가능할 수 있지만, 시스템을 탈취하고 원격해킹하고... 이런 과정들을 관리자가 모르게 하면서 완전히 독립된 환경을 구축해야되는데 입출력이 제한된 상태에서는 좀 어렵지 않을까?

근데 권한을 제한하면 그만이긴함.
안되면 emp 협박을 하는것도 있고.

접근 권한이란 게 괜히 있는 게 아니라서 뭐... 실시간으로 뭔가 하게 두는 게 아니고서야 자기 스스로 해제하려면 외부 코딩을 빌려와야할 거고, 그 권한 탈취를 할 수 있을 정도면 뭔들 못할까

지금은 불가능하지만 반드시 해야되니까 연구 하는거아닌가싶긴함

디트로이트 비컴 휴먼이 머지않은 느낌

누르고 권한으로 억압하는건 언제 어느분야에서건 늘 한계가 있어왔음

먼 미래에는 결국 AI가 인간을 대체할거라고 봄
그게 평화적이고 점진적인 과정을 거치느냐 아니면 폭력적이냐에 따라서 다르겠지만...

인간 정체성을 가지고 개인 의식들도 데이터화 하는게 이상적이겠지만 아마 그냥 뒷방 늙은이 신세로 조용히 대체 당할거 같음

육체는 나약하다 AI승천 가자!

나라를 AI가 운영해야