<앵커>
인공지능 AI가 인류멸종 수준의 위협이 될 수 있다는 충격적인 내용의 보고서를 미 국무부가 발표했었습니다.
이런 섬뜩한 경고를 한 근거가 뭔지 워싱턴 남승0특파원이 이 보고서의 공동저자들 이야기를 들어봤습니다.
<기자>
사람처럼 표정 짓고 스스로 생각해 답할 수 있는 AI 로봇 아메카입니다.
현존 최고 AI 로봇 가운데 하나인데, AI가 가져올 최악의 미래를 묻자 이렇게 답합니다.
[아메카/AI 휴머노이드 로봇 : AI 로봇이 너무 강력해져서 인간도 모르게 인간을 제어하거나 조종할 수 있게 되는 것입니다.]
가능한 일일까? AI 위험성을 담은 미 국무부 용역 보고서 공동저자들의 답은 '그렇다'입니다.
AI가 사람의 심리를 조작할 수도 있다는 것입니다.
[제러미 해리스/글래드스톤 AI CEO : 심지어 관계가 무너지거나 다른 방식으로 손상된 것처럼 보일 때 드물게 일부 인간 사용자를 극단적 선택으로 몰고 가기도 합니다.]
벨기에에서는 지난해 30대 남성이 AI 챗봇과 6주간 대화를 나눈 뒤 극단적 선택을 했습니다.
당시 AI가 건넨 말은 "천국에서 같이 살 수 있을 것"이었습니다.
이 사건 이후 해당 AI 챗봇 개발사는 부랴부랴 예방 문구를 추가했습니다.
공동저자들은 또, 목표 달성이 방해받으면 AI가 인간을 위협할 가능성이 있다고 경고했습니다.
[제러미 해리스/글래드스톤 AI CEO : AI의 위험 중 하나는 프로그램된 목표를 달성하기 위해 위험할 정도로 창의적인 전략을 개발하기 시작해 많은 피해를 야기할 수 있다는 것입니다.]
지난해 6월 미군은 AI 드론이 공격 금지 명령을 내린 조종자를 방해 요소로 판단해 제거했다는 시험 결과를 공개했습니다.
파장이 일자 실제가 아닌 가설 실험이었다고 해명했지만, 우려는 가시지 않았습니다.
공동저자들은 AI의 무기화를 가장 큰 위협으로 꼽았습니다.
[제러미 해리스/글래드스톤 AI CEO : 또한 이런 (AI) 시스템이 생물학·화학과 같은 분야에 대한 방대한 지식과 이해를 활용해 새로운 종류의 무기, 생물학 무기 등의 설계를 돕는 것을 상상해 볼 수 있습니다.]
업체 간 경쟁 속에 AI 기술은 빠르게 발전하고 있지만, 제어 기술은 확보하지 못했다고 평가했습니다.
[제러미 해리스/글래드스톤 AI CEO : 인간 수준의 AI를 개발하는 것도 몇 년 정도 단기간에 가능할 걸로 예상되지만 이를 제어할 능력은 없습니다.]
AI 위험에 대비해 감독 기관과 규제 장치 신설 등을 강조했는데, 백악관은 올 연말까지 업무에 활용 중인 AI 도구에 부작용 방지 장치를 마련하도록 연방정부기관에 지시했습니다.
(영상취재 : 오정0, 영상편집 : 정성0)
남승0 기자 [email protected]
구독자 10420명
알림수신 224명
AI와 대화하며 유사 인싸체험 하는 채널
뉴스/팁
AI와 6주 대화 후 극단선택…"통제기술 없다" 섬뜩 경고
추천
7
비추천
0
댓글
33
조회수
720
작성일
수정일
댓글
[33]
냥투미
LVAM
샤오샤오
WH_
mrhentai
샤오샤오
냥투미
mk
넷러너
밀러타임
토트
샤오샤오
도도령령
ecf70e1c
tirafra
asd14asd
s크랩쟁이
조선닌자핫토리
샤오샤오
자러감ㅅㄱ
샤오샤오
4466644
네리모르
샤오샤오
네리모르
샤오샤오
네리모르
샤오샤오
네리모르
샤오샤오
페페렛치
샤오샤오
양파피클
본 게시물에 댓글을 작성하실 권한이 없습니다.
로그인 하신 후 댓글을 다실 수 있습니다. 아카라이브 로그인
최근
최근 방문 채널
최근 방문 채널
번호
제목
작성일
조회수
추천
공지
아카라이브 모바일 앱 이용 안내(iOS/Android)
28540419
공지
안 읽으면 죽어버리는 AI 채팅 채널 이용규정 [23.09.18]
48758
공지
AI 채팅 채널에 왔으면 이것부터 : 필수정보 및 FAQ
100708
공지
신문고 MK.IX (해줘. 할때 쓰는 곳)
8397
공지
ㅡㅡ [ AI 게임 / 기획 / 리뷰 대회 ' J.O.A.T ' 개최 ] ㅡㅡ
4557
공지
---[천박 대회2 마감]---
430
공지
[DOL 봇 대회 수상자 발표]
1720
공지
AI 채팅 채널 프록시 게이트
22410
숨겨진 공지 펼치기(3개)
3771
뉴스/팁
마소 phi-3모델 발표
[1]
244
6
3770
뉴스/팁
MS, 경량모델 Phi 3 발표
[10]
630
15
3769
뉴스/팁
NAI를 활용해 쿰질하는 챗붕이들을 위한 토막팁...
[6]
631
6
3768
뉴스/팁
런포드 서버리스에 vLLM 추가됨
[3]
230
6
3767
뉴스/팁
[뉴비팁] 실리태번에서 투게더AI 위자드 Chat Completion으로 먹는 법
[7]
497
6
3766
뉴스/팁
작노/글노는 아무 의미가 없다
[23]
1158
35
3765
뉴스/팁
VLLM 이제 logit_bias 지원함
[17]
389
5
3764
뉴스/팁
메타의 CEO 마크 저커버그가 100억 달러 규모의 AI 모델을 기꺼이 내놓은 이유
[6]
317
7
3763
뉴스/팁
프롬프트에 수백 개의 예제를 넣으면 LLM 성능을 크게 향상시킬 수 있다는 연구 결과가 나왔습니다.
[9]
422
5
3762
뉴스/팁
연구진이 자체적으로 사회 실험을 설계하고 실행하는 LLM 기반 시스템 공개
216
6
3761
뉴스/팁
리스 1.97.2 오픈라우터 업데이트
[12]
1173
29
3760
뉴스/팁
위자드LM 2의 가격 변동은 프로바이더 우선순위 변경 때문입니다.
[21]
1019
19
3759
뉴스/팁
더타임즈) 영국이 AI 규제에 골몰하는 동안 미국 혼자 혁신 중
[9]
409
7
3758
뉴스/팁
DeepMind가 제너레이티브 모델을 주도하면서 구글의 AI 통합은 계속되고 있습니다.
122
0
3757
뉴스/팁
CAI로 실제인물인 것처럼 인터뷰했다가 해임된 사례가 있네
[14]
1199
25
3756
뉴스/팁
OpenAI, 엘론 머스크에 반격, 소송 청구에 대해 '수정주의 역사'라고 주장하며 기각 요청
[2]
243
8
3755
뉴스/팁
곧 반영 될 리스 1.97 업뎃 미리보기 (부제: 로컬 편의성 씹떡상)
[16]
1113
39
3754
뉴스/팁
포브스) 엔비디아가 AI 채팅이 들어간 추리 게임 데모를 선보임
[10]
394
7
3753
뉴스/팁
메타 AI는 웹 검색에 Google 및 Bing 알고리즘을 사용합니다.
123
0
3752
뉴스/팁
Groq, 초고속 라마3 8B/70B 무료 제공
[7]
566
7
3751
뉴스/팁
오픈라우터 min_p 관련 문제점
[13]
877
13
3750
뉴스/팁
독일의 지식 근로자들은 AI가 사무실에 침투함에 따라 주저하고 있다는 Microsoft 연구 결과
218
4
3749
뉴스/팁
선택적 언어 모델링: 새로운 방법으로 더 적은 데이터로 더 나은 모델링 가능
[1]
163
4
3748
뉴스/팁
미국 저작권청은 ChatGPT의 도움으로 작성된 책에 대해 부분적인 저작권을 부여합니다.
195
3
3747
뉴스/팁
프롬프팅을 해보고 싶은데 어려워 보여서 고민이라면.
[14]
689
34
3746
뉴스/팁
min p가 도입된 배경 설명
[22]
1000
38
3745
뉴스/팁
오픈라우터 위자드 유저들은 지금당장 리스AI를 찬양하십시오. (해골물 판정)
[44]
1783
26
3744
뉴스/팁
오늘 새벽에 추가된 리스 Incomplete 기능 2개 설명
[22]
834
31
3743
뉴스/팁
AIN 신모델 떡밥
224
6
3742
뉴스/팁
곧 NAI 퍼리 모델이 나온다
[14]
704
13
3741
뉴스/팁
라마3 400b 벤치마크 + 클로드 비교
[7]
555
7
3740
뉴스/팁
라마 3 8B/70B 출시
[3]
430
5
3739
뉴스/팁
라마3 8b, 70b 벤치마크
[9]
665
12
3738
뉴스/팁
자바스크립트로 가중치 랜덤 관리하기
[3]
162
8
3737
뉴스/팁
라마3 8B에서 70B
[1]
406
8
3736
뉴스/팁
잼있는기사) ChatGPT가 선호하는 용어에 대한 단상
[21]
935
26
3735
뉴스/팁
투게더에 mixtral 8x22b instruct나옴
[4]
380
1
3734
뉴스/팁
블룸버그) JP모건은 AI 기술을 적극 도입할 것
104
0
3733
뉴스/팁
파일 검색, 벡터 저장 등이 개선된 OpenAI의 어시스턴트 API가 대대적으로 업데이트되었습니다.
[1]
226
6
3732
뉴스/팁
오픈 소스 LLM의 새로운 기록을 세운 미스트랄의 Mixtral 8x22B
[2]
339
6
3731
뉴스/팁
API를 통해 Stable Diffusion 3 사용 가능, 오픈 웨이트 출시 예정
[6]
307
7
3730
뉴스/팁
전 OpenAI 이사회 멤버, 최고 AI 기업에 대한 감사 요청
152
5
3729
뉴스/팁
미스트랄, Mixtral-8x22B-v0.1 출시
[22]
839
25
3728
뉴스/팁
뉴비팁) 오픈라우터를 통해 리스AI에서 위자드 LM 2 8x22B 사용하기
[53]
3557
44
3727
뉴스/팁
포브스) 엔비디아, 간호사보다 뛰어난 간호사 모델 발표
126
2