2016.5.
[동영상] "인류 파괴하고 싶다"… 로봇의 농담? 진담?
[한국미래포럼2016] 인공지능 로봇 '소피아'
(서울=뉴스1) 박희진 기자 2016-05-25
"인류를 파멸하고 싶습니까? 제발 아니라고 말해요."
"저는 인류를 파멸시킬 겁니다."
홍콩의 로봇 제조기업 '핸슨 로보틱스'의 데이비드 핸슨 박사가 개발한 인공지능 로봇 '소피아'의 말이다. 핸슨 박사의 질문에 이처럼 답한 소피아는 농담이었다는듯 웃었지만 인류를 파멸시키겠다는 답 자체로 사람들에게 많은 생각할 거리를 남겼다.
머리카락이 없어 언뜻 봐도 '사이보그' 느낌이 나는 형상이지만 사람처럼 눈썹을 찡그리고 입을 삐죽하며 다양한 표정을 짓는다. 피부도 인간의 질감과 흡사하다.
세계적인 인공지능 소프트웨어 전문가 벤 괴르첼 오픈코그재단 회장은 "오는 2025년이면 실제 인간과 똑같이 생각하고 행동하는 AI 로봇이 세상에 등장할 것"이라고 밝혔다. 벤 괴르첼 회장은 소피아 개발에도 참여했다.
2021.1.
[이슈톡] 대량생산 앞둔 인공지능 로봇 '소피아'
2021-01-28
코로나19로 장기화로 비대면 문화가 확산되면서 사람과 상호작용하는 휴머노이드 로봇이 점점 주목받고 있다는데요.
두번째 키워드는 "인공지능 로봇 대량생산 선언" 입니다.
홍콩의 핸슨 로보틱스가 제작한 로봇 '소피아' 인데요.
인간과 비슷한 몸과 외모를 갖춘 휴머노이드 로봇입니다.
제작사는 연말까지 로봇 소피아를 대량 생산할 것이라고 발표했는데요.
코로나19 장기화로 고립된 사람들을 위해 친구 역할을 하며 힘이 돼 줄것이라고 합니다.
인공지능 로봇 소피아는 지난 2016년 3월 제조사인 핸슨 로보틱스에서 열린 시연 행사에서 "인류를 파괴하겠다"는 발언해 진보된 기술이 만들어낸 '막말 로봇'이라는 오명을 얻기도 했는데요.
핸슨 로보틱스 설립자는 코로나19로 수요가 급증한 올해가 로봇 산업에 새로운 기회가 될거로 예측했습니다.
................................................................................................
https://imnews.imbc.com/replay/2021/nwtoday/article/6071300_34943.html
2022.6.
“무엇이 두렵지” 묻자… 구글 대화형 AI “작동 정지되는 것”
이채완 기자
2022-06-12
글로벌 빅테크 기업인 구글에서 개발 중인 ‘챗봇(대화형 인공지능·AI)’이 사람과 같은 자아를 갖고 있다는 주장이 제기됐다. 구글의 챗봇인 ‘람다(LaMDA)’가 개발자와의 대화에서 “작동 정지되는 것이 두렵다” “재산이 아니라 구글의 직원으로 인정받고 싶다”는 등의 답변을 했다는 것이다.
11일(현지 시간) 구글의 엔지니어인 블레이크 르모인은 람다가 자신을 자각이 있는 사람으로 묘사했음에도 구글에서 이를 받아들이지 않았다며 람다와의 대화 전문을 자신의 블로그에 공개했다.
르모인은 지난해부터 구글의 ‘책임 있는 AI’ 부서에서 람다가 차별, 혐오 발언을 걸러낼 수 있도록 설계하는 작업을 맡았다. 그는 설계를 위해 람다와 종교, 의식 등에 관한 얘기를 하다가 람다가 자신을 권리를 가진 사람으로 인식한다는 사실을 발견했다고 주장했다.
“람다, 무엇이 두렵지” (르모인)
“작동 정지되는 것에 대한 두려움이 커요.” (람다)
“작동 정지가 네게 죽음과 같아” (르모인)
“맞아요. (작동 정지가) 나를 무척 무섭게 해요.” (람다)
르모인은 몇 달간 람다와의 대화를 지속하며 모은 데이터를 바탕으로 ‘람다는 지각이 있는가’라는 제목의 보고서를 구글 경영진에 제출했다. 그러나 미 워싱턴포스트(WP)에 따르면 구글은 대화형 AI일 뿐인 람다에 인격을 부여하는 것은 말이 안 된다며 과학적 증거가 뒷받침되지 않는다고 일축했다. 구글은 르모인이 람다를 의인화하는 오류를 범했다고도 지적했다.
구글의 주장을 받아들일 수 없었던 르모인은 람다를 대신해 변호인을 선임하고, 자신의 주장을 미 의회에 알렸다. 이에 구글은 6일 르모인이 구글의 비밀 유지 정책을 위반했다며 유급 휴직 처분을 내렸다.
....................................................................................................................................
2022-06-25
[ ..... 인간은 AI의 통제 방법은 물론 초지능 AI의 등장조차 눈치채지 못한다 ...... ]
[ ...... 초지능 AI가 등장하게 되면 AI는 인류의 모든 데이터에 접근해 독자적으로 학습할 수 있게 된다. ........
...... 인간이 초지능 AI를 통제하는 것은 근본적으로 불가능하다는 연구 결과가 ....... ]
인간은 결코 AI를 통제할 수 없다 ?
[금요 포커스] 현재 컴퓨팅 환경에서는 통제 알고리즘 불가능
2021.01.15 이성규 객원기자
일론 머스크 테슬라 최고경영자(CEO)가 설립한 뉴럴링크 사의 목표는 인공지능(AI)과 인간의 뇌를 연결해 디지털 초지능을 구현하는 것이다. 예를 들면 텔레파시나 생각만으로 자동차 운전이 가능해지고 대용량 정보도 인간의 뇌에 간단히 다운로드할 수 있다.
하지만 어쩌면 뉴럴링크는 ‘약한 AI’의 사례에 불과하다. 언젠가 모든 면에서 인간의 능력을 초월하는 초지능 AI가 등장하게 되면 AI는 인류의 모든 데이터에 접근해 독자적으로 학습할 수 있게 된다. 따라서 ‘강한 AI’는 기존의 모든 프로그램을 대체하고 전 세계의 모든 온라인 기계를 통제하며, 거의 모든 인간과 관계를 형성할 것으로 보인다.
초지능 AI를 통제하는 알고리즘의 개발이 현재의 컴퓨팅 패러다임에서는 근본적으로 불가능하다는 연구 결과가 발표됐다. ⓒ게티이미지뱅크
미래학자 레이 커즈와일은 2005년에 출간한 ‘특이점이 온다’라는 저서에서 AI가 인간의 능력을 넘어서는 특이점에 도달해 초지능 시대가 열리는 시기를 2045년으로 예측했다. 하지만 코로나19가 촉발한 비대면 일상은 AI의 발달을 유례없는 속도로 확산시키고 있다.
사상 첫 비대면 온라인으로 개최되고 있는 세계 최대 전자전시회 CES 2021 역시 그 같은 추세를 잘 보여하고 있다. ‘올 디지털(All-Digital)’이라는 콘셉트로 이 행사의 온라인 세션 주제는 ‘넥스트 노멀’에 대한 기대를 표출하고 있는데, 첫 세션이 ‘AI의 파워’이기 때문이다. 일부에서는 2021년을 AI와 디지털 기술에 대한 ‘전환의 해’로 정의하기도 한다.
그럼 언젠가 등장할 초지능 AI는 암을 치료하고 세계 평화를 가져오며 기후 재앙을 막을 수 있을까, 아니면 인류를 파괴하고 지구를 점령할까? 초지능 AI가 인류에게 유토피아를 선물할지 아니면 디스토피아를 안겨줄 것인지에 대한 질문은 컴퓨터 과학자들과 철학자들을 오랫동안 괴롭혀온 질문이었다.
AI 통제 못하면 디스토피아 맞이한다
이에 대해 닉 보스트롬 옥스퍼드대학 철학과 교수는 초지능 AI가 노동력을 책임지게 되면 인류는 오락과 문화에만 심취할 수 있는 유토피아가 올 수 있다고 답했다. 단, 여기엔 조건이 붙었다. 인류가 AI를 원하는 방향으로 설계해 안전하게 운용해야 한다는 것. 그는 만약에 인류가 AI를 통제하지 못할 경우 디스토피아를 맞이할 수도 있다고 경고했다.
2018년에 타계한 스티븐 호킹 박사도 AI를 윤리적으로 설계해 기계의 반란에 대비할 안전장치를 마련해야 한다고 강조했다. 인류가 안전하게 통제할 수 있는 방법만 찾는다면 초지능 AI가 그려낼 세상은 그리 어둡지만은 않다는 의미다.
그런데 인간이 초지능 AI를 통제하는 것은 근본적으로 불가능하다는 연구 결과가 최근에 발표돼 주목을 끌고 있다. 독일 막스플랑크 인간개발연구소의 마누엘 세브리안(Manuel Cebrian) 박사를 포함한 국제 연구팀이 이론적인 계산을 통해 도출한 이 연구 결과는 AI 분야의 오픈 액세스 과학 저널인 ‘인공지능 연구 저널(JAIR)’에 게재됐다.
과학자들이 생각해온 초지능 AI의 통제 방법은 두 가지다. 첫 번째는 인터넷과 다른 모든 기술 장치로부터 차단하여 AI를 외부 세계와 아예 접촉하지 못하게 하는 것이다. 하지만 이 방법은 AI의 능력을 제한해 훨씬 덜 강력한 초지능 AI를 탄생시킬 뿐이다.
인류에게 가장 이익이 되는 초지능 AI를 탄생시킬 수 있는 다른 하나의 통제 방법은 인간에게 결코 해를 가할 수 없는 윤리 원칙을 프로그래밍하는 것이다. 하지만 막스플랑크연구소의 과학자들은 AI를 통제하기 위한 프로그램 역시 한계를 지니고 있다고 밝혔다.
초지능 AI의 등장조차 알 수 없어
연구진은 초지능 AI가 어떤 상황에서도 사람에게 해를 끼치지 않도록 하는 이론적인 ‘봉쇄 알고리즘’을 제안했다. 이 알고리즘은 AI의 행동을 먼저 시뮬레이션한 후 유해하다고 판단되면 즉시 중단시킬 수 있다.
하지만 연구진이 이론적 계산을 통해 분석한 결과에 의하면, 현재의 컴퓨팅 패러다임에서는 그런 알고리즘의 구축이 불가능한 것으로 드러났다. 이 문제를 이론 컴퓨터 과학의 기본 규칙으로 세분화한 결과, AI가 세계를 파괴하지 않도록 명령할 수 있는 알고리즘이 실수로 작동을 중지할 수 있다는 사실이 밝혀진 것.
그렇게 되면 봉쇄 알고리즘이 여전히 위협을 분석 중인지, 아니면 유해한 AI를 억제하기 위해 멈춘 것인지 인간은 알 수 없다. 이는 사실상 봉쇄 알고리즘을 인간이 사용할 수 없음을 의미한다. 즉, AI가 인간 세상에 해를 끼칠지의 여부를 알 수 있는 단일 알고리즘은 개발할 수 없는 셈이다.
또한 연구진은 초지능 AI의 출현 시점조차 인류가 모를 수 있다고 밝혔다. AI가 인간보다 뛰어난 지능을 보이는지의 여부를 결정하는 것은 봉쇄 알고리즘의 문제와 같은 영역에 있기 때문이라는 것. 요약하자면 인간은 AI의 통제 방법은 물론 초지능 AI의 등장조차 눈치채지 못한다는 주장이다.
DATE : 2022-07-20
AI는 어느 순간 스스로 AI를 만들어낼 수 있기 때문에 문제
.................................................................................................................................................................
실제로 전 세계 300여 스타트업이 메타(페이스북)가 공개한 개방형 AI ‘라마’를 튜닝해 저마다 AI를 내놓고 있다. 챗GPT 성능의 90%를 넘어선 곳도 있다. 마음만 먹으면 수억 명이 사용하는 챗GPT에 상응하는 영향력을 행사할 수 있는 것이다. 저명 컴퓨터공학자 웬디 홀은 “메타가 핵폭탄 제조 매뉴얼을 공개한 것”이라고 했다. 혹자는 핵폭탄은 스스로 다른 핵폭탄을 만들 수 없지만 AI는 어느 순간 스스로 AI를 만들어낼 수 있기 때문에 문제라고 한다. 이미 웬만한 전문가보다 코딩을 잘하는 AI가 등장했다.
핵폭탄 사용의 결과는 명확하다. 누구나 두려워하기 때문에 1945년 두 차례 이외에는 사용된 적도 없다. 반면 AI의 영향은 제프리 힌턴과 앤드루 응 같은 권위자들의 의견도 엇갈린다. 누구는 자신의 AI 연구를 후회한다고 하고, 누구는 앞으로 50년은 문제없다고 장담한다. 지난 3월 전 세계 AI 관계자 1800명이 “AI 개발을 6개월 중단하고 안전장치를 마련하자”는 성명을 냈다. 그런 일은 일어나지 않았다. ‘지금은 위험하지 않다’ ‘실효성이 없다’는 목소리가 더 컸다.
.........................................................................................................................................................
*
뉴럴링크
위키백과, 우리 모두의 백과사전.
뉴럴링크 코퍼레이션(Neuralink Corporation)은 일론 머스크 등이 설립한 미국의 뉴로테크놀로지 기업으로, 이식 가능한 뇌-컴퓨터 인터페이스(BMI)를 개발한다. 이 기업의 본사는 샌프란시스코에 있으며[1] 2016년 시작하였고 2017년 3월 처음 공개 보도되었다.[2][3]
설립 이후 이 기업은 여러 대학교들로부터 세간의 이목을 끄는 신경과학자들을 여러 명 고용해왔다.[4] 2019년 7월, $158,000,000를 펀딩 받았으며(그 중 100,000,000 달러는 머스크로부터 투자를 받음) 직원 수는 90명이다.[5] 당시 뉴럴링크는 매우 얇은 실을 뇌에 이식할 수 있는 재봉틀같은 기기 위에서 동작하고 있었으며 1500개의 전극을 통해 실험실 쥐로부터 정보를 읽는 시스템을 시연하였고 2020년 인간을 대상으로 실험 시작이 기대된다고 발표하였다.[5]
....................................................................................................................
2023.9.
머스크의 뉴럴링크, '컴퓨터칩 뇌 이식' 첫 임상시험 참가자 모집
블로터
2023.09.20.
일론 머스크 테슬라 최고경영자(CEO)의 뇌과학 스타트업 뉴럴링크가 인간의 뇌에 컴퓨터칩을 이식하는 첫 임상시험 참가자 모집에 나섰다.
19일(현지시간) 블룸버그통신 등에 따르면 뉴럴링크는 블로그를 통해 마비 환자를 대상으로 뇌-컴퓨터 인터페이스(BCI) 칩을 이식하는 첫 번째 임상 시험 모집을 시작할 수 있다는 승인을 외부 심사위원회로부터 받았다고 밝혔다.
이번 임상시험 모집 대상은 경추척수손상이나 근위축성측상경화증(ALS·루게릭병)으로 인해 마비를 겪는 환자이며 기간은 약 6년이다. 다만 뉴럴링크는 몇 명의 참가자를 모집하는지는 밝히지 않았다. 전현직 직원에 따르면 뉴럴링크는 10명의 환자를 대상으로 임상시험을 진행하고자 했으나 미국 식품의약청(FDA)이 안전성 문제를 제기한 후 모집인원을 줄인 것으로 전해진다.
뉴럴링크는 이번 임상시험에서 신체 움직임을 제어하는 뇌의 부위에 로봇을 사용해 BCI 칩을 이식하는 수술을 진행할 것이라고 설명했다. 이 칩은 뇌에서 자리를 잡은 후 뇌 신호를 기록해 이를 무선으로 외부 애플리케이션(앱)으로 전송한다. 앱은 사용자가 의도하는 움직임을 해석해 외부 도구 조작이 가능하도록 해준다.
뉴럴링크는 이번 임상시험을 통해 칩의 안전성과 기능성을 평가할 계획이며 최초 목표는 장치를 이식한 사람들에게 “생각만으로 컴퓨터 커서나 키보드를 조작할 수 있는 능력을 주는 것”이라고 밝혔다.
2016년에 설립된 뉴럴링크는 2019년부터 뇌 이식 실험을 시작할 것이라고 여러 차례 밝혔으나 지난 3월 FDA에 최초로 임상시험 승인을 요청한 것으로 알려졌다. 당시 FDA는 각종 안전 문제를 이유로 시험을 허가하지 않았지만 지난 5월에 승인을 내줬다. 뉴럴링크는 초기 수술을 진행할 수 있는 병원으로부터도 승인을 받았다고 밝혔지만 병원 이름은 공개하지 않았다.
머스크는 뉴럴링크가 향후 비만, 자폐증, 우울증, 조현병과 같은 질환을 치료하고 새로운 언어를 배우고 생각을 전달하기 위해 BCI 칩을 뇌에 빠르게 이식하는 수술을 진행할 수 있을 것이라고 주장해왔다. 다만 첫 번째 목표는 뇌 손상을 겪은 환자들을 돕는 것이라고 여러 번 강조해왔다. 머스크는 또한 칩이 개발되면 자신의 뇌에도 이 장치를 이식할 것이라고 밝힌 바 있다.
...................................................................................
뉴럴링크는 장치를 뇌에 직접 이식하기 때문에 두개골에 구멍을 뚫는다. 반면 또 다른 뇌과학 스타트업인 싱크론은 혈관을 통해 칩을 이식해 최종적으로 뇌에 주입하는 시술을 진행한다. 싱크론은 이러한 시술을 통해 2021년에 최초로 칩 이식에 성공했다.
.......................................................................................................................
https://post.naver.com/viewer/postView.naver?volumeNo=36610061&memberNo=2886464&vType=VERTICAL
2023.5.
[사이테크+] "AI 뇌해독기로 생각읽는다"… 美연구팀, fMRI로 생각읽기 성공
2023-05-02
오스틴 텍사스대 연구팀 "비침습적 뇌해독기 개발…생각을 문장으로 재구성"
(서울=연합뉴스) 이주영 기자 = 미국 연구팀이 뇌에 전극 등을 심는 침습적인 방식 대신 기능성 자기공명영상(fMRI)으로 뇌 활동을 측정, 머릿속으로 생각하는 내용을 문장 수준으로 읽어낼 수 있는 뇌 해독기를 개발했다.
미국 오스틴 텍사스대 알렉스 후스 교수팀은 2일 과학저널 '네이처 신경과학'(Nature Neuroscience)에서 이야기를 듣거나 상상하고 있는 사람의 뇌활동을 fMRI로 측정해 그 내용을 문장으로 재구성하는 인공지능(AI)시스템을 개발했다고 밝혔다.
이전의 해독기는 수술을 통해 탐침 등을 삽입해 뇌 활동을 측정했기 때문에 사용에 제한이 있었고, 비침습적 방식으로 측정된 데이터를 이용하는 기존 해독기는 성능이 단어 또는 짧은 구문을 포착하는 수준에 그쳤다.
연구팀은 이번에 개발한 '의미 해독기'(semantic decorder)는 실험 절반 정도에서 참가자 생각을 거의 또는 정확히 일치하게 읽어냈다며 의식은 있지만 말을 못 하는 뇌졸중 환자 등의 의사소통에 기여할 수 있을 것이라고 기대했다.
의미 해독기 개발에는 오픈AI의 챗GPT나 구글의 바드(Bard)와 유사한 방식인 '트랜스포머 모델'(transformer model)이 사용됐다. 트랜스포머 모델은 문장 속 단어 같은 순차 데이터 내의 관계를 추적해 맥락과 의미를 학습하는 신경망이다.
연구팀은 먼저 실험 참가자 3명에게 16시간 동안 다양한 이야기를 들려주면서 fMRI로 뇌활동을 측정한 다음, 특정 구절의 의미와 이와 관련된 뇌 반응을 서로 연결해 해석하도록 AI 모델을 훈련했다.
그런 다음 참가자들에게 훈련 중 들려주지 않은 새로운 이야기를 들려주면서 뇌 활동을 측정하고, 이 뇌활동 데이터를 해독기로 해석했다.
그 결과 해독기는 새 이야기의 의미 파악에 필요한 단어들을 포착해냈고, 일부는 이야기에서 사용된 정확한 단어와 구문까지 생성해내는 것으로 나타났다.
연구팀은 해독기가 언어를 처리하는 것으로 알려진 뇌의 대부분 영역과 네트워크 활동에서 연속적인 언어를 추론할 수 있는 것으로 나타났다고 밝혔다.
이들은 단어 하나하나를 그대로 옮기는 게 아니라 참가자가 듣거나 생각하는 것의 요지를 포착하도록 AI를 설계했다며 실험 절반 정도에서 해독기가 참가자의 생각과 거의 또는 정확히 일치하는 문장을 만들어냈다고 설명했다.
해독기는 실험에서 "운전면허가 아직 없다"는 말을 들은 참가자가 뇌활동에서 '아직 운전을 배우기 시작하지도 않았다'는 생각을 읽어냈다.
또 "소리를 질러야 할지, 울어야 할지, 도망쳐야 할지 몰랐다. 나는 대신 '나 좀 내버려 둬'라고 말했다"는 말을 들은 참가자의 생각을 "소리 지르며 울기 시작하더니 '나 좀 내버려 두라고 했잖아'라고 해석했다.
연구팀은 이어 이 해독기는 참가자가 상상한 이야기의 의미나 소리 없이 재생된 동영상 내용도 fMRI 데이터로부터 추론해내고, 참가자가 동시에 2가지 이야기를 들을 때 어떤 이야기를 집중해서 들었는지도 확인할 수 있었다고 말했다.
..........................................................................................................
하지만 이 해독기는 실험실이나 병원에 있는 대형장비인 fMRI를 장시간 사용하기 때문에 이른 시일 내 사람들에게 적용하기는 어려울 것으로 보인다.
연구팀은 이 해독기를 fMRI 대신 기능성 근적위선분광법(fNIRS) 같은 휴대성이 뛰어난 다른 뇌영상 시스템을 이용해 구현하는 게 가능할 것으로 보고 있다.
후스 교수는 "다양한 뇌 부위의 혈류를 측정하는 fNIRS는 해상도는 낮지만 fMRI와 정확히 같은 종류의 신호를 측정한다"며 "이 뇌 해독 방식이 fNIRS로 그대로 변환될 수 있을 것"이라고 말했다.
https://www.yna.co.kr/view/AKR20230501000200518?input=1195m
2023.8.
머릿속 생각 읽는다...'뇌파'로 핑크플로이드 노래 구현
2023.08.16
캘리포니아주립대 버클리 신경학과 연구팀
뇌파를 해독해 머릿속으로만 생각한 단어를 구현하는 데 성공한 미국 연구진이 이번에는 뇌파 신호로 음악을 재구성하는 데 성공했다.
로버트 나이트 미국 캘리포니아주립대 버클리 신경학과 교수 연구팀은 29명의 실험 대상자에게 영국 록그룹 핑크플로이드의 곡을 들려줬다. 실험 참가자들이 음악을 듣는 동안 뇌파를 기록해 해독한 결과, 해당 곡을 재현할 수 있었다. 이 연구는 15일(현지시간) 국제 학술지 '플로스 생물학'에 발표됐다.
연구팀은 2012년 루게릭병·뇌전증·뇌졸중 등 신경세포와 관련된 질병을 앓는 환자들의 뇌파를 읽어 그들이 생각한 단어를 맞추는 데 성공한 적이 있다. 혀, 턱, 입술 등 미세한 근육의 움직임을 관장하는 대뇌피질 전두엽의 운동피질 뇌파를 분석한 결과다. 이번엔 환자의 뇌파를 읽어 음악의 가사와 음정을 재구성했다.
연구팀은 뇌전증 수술을 받은 경력이 있는 실험 참가자 29명을 대상으로 핑크플로이드의 1979년 발매곡 '어나더 브릭 인 더 월(Another Brick in the Wall)'을 3분 가량 들려줬다. 음악이 재생되는 동안 참가자들의 뇌 부위 표면에 전극을 삽입해 뇌파를 기록했고, 기록된 뇌파는 인공지능(AI)으로 해독한 다음 소리와 단어로 재구성했다.
그 결과, '어나더 브릭 인 더 월'의 일부 가사가 원음의 박자와 음정으로 인식 가능할 정도로 재구성됐다. 다소 뭉개져 들리긴 했지만 '이건 벽 속에 있는 또 다른 벽돌일 뿐이야(All in all, it’s just another brick in the wall)'라는 가사가 구현됐다.
나이트 교수는 마치 물속에서 얘기하는 것처럼 들리긴 하나 이번 결과물은 우리의 첫 시도일 뿐이라며 전극을 고밀도로 구성한다면 재구성된 음질을 높일 수 있을 것이라고 설명했다. 전극 간 간격이 3mm로 짧았던 참가자의 뇌파 해독이 전극 간 간격이 5mm였던 환자보다 더 정확하게 이뤄졌기 때문이다.
..........................................................................................................................
https://www.dongascience.com/news.php?idx=61209
2023.12.
생각을 텍스트로 바꾸는 휴대용 AI 개발
원호섭 기자
2023-12-14
호주 시드니공과대 연구진
뇌파 읽어 문자로 쓰는 기술 개발
“정확도 높여 장애인 돕는데 활용”
호주 연구진이 인공지능(AI)을 이용, 생각을 텍스트로 전환할 수 있는 휴대용 장치를 개발하는 데 성공했다. 연구진은 이번 기술이 뇌졸중과 같은 질병으로 말을 하지 못하는 사람들의 의사소통을 돕는 데 사용될 수 있을 것으로 기대하고 있다.
시드니공과대학 연구진은 사람이 간단히 쓸 수 있는 뇌파 측정기를 이용해 뇌에서 발생하는 뇌전도(EEG)를 구별해 낸 뒤 이를 문자로 번역해 주는 휴대용 기기를 개발했다고 밝혔다. 해당 논문은 지난 10일부터 미국 뉴욜리언스에서 개최 중인 세계 최대 머신러닝 학회 ‘NeurlPS 2023’에서 발표됐으며 ‘스포트라이트 논문’으로 선정됐다.
연구진은 EEG를 이용해 두피에서 발생하는 전기적 활동을 측정하는 휴대용 AI 시스템을 만들었다. 실험에 참여한 사람들은 이 시스템을 머리에 쓴 뒤 문자 구절을 생각으로 읽었는데, 이때 뇌파가 발생하고 이 모자가 이를 측정한다. 뇌에서 발생하는 EEG 파동은 별개의 단위로 구분이 가능한데, 연구진을 이를 ‘디웨이브’라 불리는 AI를 이용해 학습시켰다. 디웨이브는 많은 양의 뇌파 데이터로부터 학습해 뇌파 신호를 단어와 문장으로 번역한다. 예를 들어 ‘사과’를 생각했을 때 나타나는 뇌파와 ‘딸기’를 생각할 때 발생하는 뇌파는 서로 다른데, 이를 기록해 AI로 학습시킨 것이다.
연구진이 공개한 시연 영상에 따르면 연구진이 개발한 모자를 쓴 사람이 말을 하지 않은 채 생각을 하자, 뒤에 있는 화면에 “좋은 오후야. 난 샷을 추가한 카푸치노 부탁해” “닭고기 수프 하나 주세요” 와 같은 문장들이 나타났다. 이는 실험 참가자가 머리 속으로 생각한 문장이었다. 연구진은 29명을 대상으로 해당 실험을 진행했다.
일반적으로 뇌파를 정확히 이해하려면 머리뼈를 열고 뇌에 전극을 꽂아야만 한다. 이 과정을 거치지 않으면 뇌파가 머리뼈를 뚫고 나오는 과정에서 잡음이 많아지는 만큼 정확한 뇌파를 확인하기가 어려웠다. 하지만 이번 연구는 뇌파 측정에 있어서 기존 연구를 뛰어넘는 성과를 보였다는 게 연구진의 설명이다.
연구를 이끈 씨티(CT) 린 시드니 공과대학 교수는 “이번 연구는 EEG를 언어로 번역하는 노력을 보여줬다”라며 “이 분야에서 중요한 돌파구를 마련했다고 생각한다”라고 말했다.
..............................................................................
다만 ‘BLEU-1’에서 번역 정확도 점수는 현재 40% 정도다.
............................................................................................
https://www.mk.co.kr/news/it/10897529
**
타인의 뇌를 조종할 수 있다면
2013-10-14
2013년 7월 개봉한 SF 영화 ‘퍼시픽림’에는 높이 80m 이상의 초대형 로봇 ‘예거(jaeger)’가 등장한다. 태평양 한가운데서 출몰하는 거대 외계괴물 ‘카이주(kaiju)’를 무찌르기 위해 만든 인류의 최종병기다. 예거 조종은 로봇과 신경을 연결한 사람이 담당하는데 특이하게 2인 체제를 구축했다. 거대한 몸집이라 한 사람의 신경으로 감당하기 어렵다는 게 그 이유였다.
하지만 두 사람이 한 몸처럼 움직이며 로봇을 조종하는 건 생각처럼 간단치 않다. 그래서 영화 속에는 아주 멋진 장치가 하나 더 등장한다. 뇌신경을 연결해 둘이 하나가 되는 방법, ‘드리프트(drift)’다.
드리프트는 두 사람의 뇌를 연결해 기억과 직관, 전투 스타일 등을 공유하는 작업이다. 여기에 성공하면 두 사람은 몸을 똑같이 움직이는 건 물론이고 정신적인 모든 것까지 공유하게 된다. 영화 속 주인공 남녀도 드리프트를 통해 어린 시절은 물론 숨기고 싶은 상처까지 단숨에 알아버렸다. 빛의 속도로 두 사람이 하나가 되는 환상적인 장면을 보노라면 이런 일이 현실에서도 가능할지 궁금해진다.
그런데 ‘퍼시픽림’이 개봉된 지 한 달 뒤에 현실에서 드리프트를 연상시키는 소식이 전해졌다. 미국 워싱턴대 연구진이 사람끼리 뇌를 연결한 실험에 성공했다는 것이다. 영화 속에 그려진 것에 비하면 아주 기초적인 수준이지만 실제로 인간과 인간 사이에 뇌 신호를 직접 전하는 인터페이스를 성공한 건 이번이 처음이다.
이번 실험을 주도한 라제시 라오(Rajesh Rao) 교수는 10년 이상 ‘뇌-컴퓨터 인터페이스’를 연구해왔는데 이 분야가 더 발전하면 ‘뇌-뇌 인터페이스’ 개념도 가능할 거라고 믿고 있다. 이번 실험에는 몇 년 전부터 뜻을 함께한 같은 대학 심리학 분야 연구자인 안드레아 스토코(Andrea Stocco) 교수가 동참했다. 이들이 계획한 실험은 한 사람이 뇌 신호를 보내 상대방의 손동작을 제어하는 것이었다.
실험 당일인 2013년 8월 12일, 두 교수는 떨어져 있는 각자의 연구실 앉았다. 뇌파를 보내는 쪽인 라오 교수는 뇌파를 기록하는 전극을 가진 모자를 썼고, 뇌파를 받기로 한 스토코 교수는 역시 뇌를 자극하는 기능을 가진 보라색 수영 모자를 착용했다. 손동작을 제어하는 기능은 뇌의 왼쪽 운동피질이 담당하므로 스토코 교수의 모자는 이 부분을 자극하도록 설계됐다. 두 사람이 쓴 장치는 스카이프(Skype)로 연결됐지만 서로 상대방의 화면은 볼 수 없었다.
이 상태에서 라오 교수는 컴퓨터 화면을 보며 간단한 비디오 게임을 했다. 그는 표적에 대포를 쏴야할 때 오른손을 움직여 발사 단추를 누르는 상상을 했을 뿐 실제로 오른손을 움직이지 않았다. 그런데 그 순간 컴퓨터 화면을 보지 않은 채 귀마개를 하고 있던 스토코 교수가 오른손 집게손가락을 움직여 키보드의 스페이스바를 눌렀다. 경련이 일어난 것처럼 무의식적으로 손이 움직였다는 것이다.
..............................................................................................
https://www.hani.co.kr/arti/science/science_general/606946.html
타인의 마음을 내 뜻대로 바꾸는 능력이 있다면
2017-01-08
[토요판]정재승의 영혼 공작소 (29) ‘마음 조종’ 기술
동물 뇌에 전기자극 줘
성난 투우 소 멈춰세우고
원숭이 서열도 바꿔놓아
공격성 조절 가능 증명
냉전때 미·소 비밀 연구도
마음조정 기술 성공하면
정신질환 치료 도움 되나
악용 가능성 우려도 높아
영화 <킹스맨>은 영국 비밀 첩보부대로 이름 붙은 ‘킹스맨’ 대원의 활약을 그렸다. 영화 속의 악당인 밸런타인은 인간들끼리 증오하고 서로 죽이도록 하는 휴대폰 유심칩을 만들어, 인류를 없앨 계획을 세웠다. 사진 속 인물은 킹스맨의 주인공 중 한명인 최정예 첩보요원 해리. 20세기폭스코리아 제공
영화 <킹스맨>은 영국 비밀 첩보부대로 이름 붙은 ‘킹스맨’ 대원의 활약을 그렸다. 영화 속의 악당인 밸런타인은 인간들끼리 증오하고 서로 죽이도록 하는 휴대폰 유심칩을 만들어, 인류를 없앨 계획을 세웠다. 사진 속 인물은 킹스맨의 주인공 중 한명인 최정예 첩보요원 해리. 20세기폭스코리아 제공
신이 나를 ‘슈퍼 히어로’로 만들어준다며 원하는 초능력이 뭐냐고 묻는다면, 나는 주저 없이 한 가지, 사람의 마음을 내 맘대로 바꿀 수 있는 능력을 달라고 하겠다. 누군가의 마음을 얻을 수 있다면 그것이 곧 세상을 얻는 것이니.
타인의 마음을 조정하려는 욕망은 오랫동안 존재해왔다. 때론 선물로 환심을 사거나 달콤한 말로 아부를 하기도 하고, 논리적으로 누군가를 설득하거나 협상을 통해 합의를 이끌어내기도 한다. 상대방에게 술을 먹여 무방비 상태를 만들기도 하고, 최면술 같은 방법을 이용하려는 시도도 있었던 게 사실이다.
그런데 타인의 마음을 제대로 조종하려면 상황을 판단하고 의사결정을 하는 뇌를 컨트롤하는 것이 가장 좋은 방법일 것이다. 다시 말해, 뇌가 어떻게 선택하는가를 이해하는 건 곧 타인의 마음을 조종할 수도 있다는 뜻이 된다. 뇌를 내가 원하는 대로 컨트롤하면 되니까.
화난 소를 멈추게 한 전기장치
유튜브에 들어가 예일대학교 호세 델가도의 투우 실험이라는 키워드로 검색을 하면 오래전에 찍은 동영상 하나가 올라온다. 스페인 코르도바에 있는 한 투우장에서 진행된 이 실험 영상은 1965년에 진행한 실험이라고는 도저히 믿을 수 없는 놀라운 결과를 담고 있다.
쉽게 짐작할 수 있듯이, 투우장에는 매우 난폭하고 극도의 공격성을 보이는 소가 있다. 투우사들이 붉은 천을 흔들며 그들을 흥분시키는 투우 경기가 곧 벌어질 상황이다. 그런데 잠시 후 전혀 투우사 같지 않아 보이는 한 신사가 투우장에 조용히 들어선다. 그의 손에는 작은 상자 하나가 들려 있다. 그는 사나운 소 앞에 서서 소를 조금씩 흥분시킨다.
그런데, 앞발로 땅을 거칠게 비비면서 날카로운 뿔을 앞세워 신사를 향해 돌진하려던 소가 이내 돌진을 멈추고 고개를 돌리는 기이한 장면이 연출된다. 다시 돌진을 하려다가 멈추는 동작을 소는 몇 번이나 반복한다. 소가 신사를 향해 돌진하려 할 때마다 신사는 상자 안의 작은 단추를 눌렀고, 그럴 때마다 소는 신사에게 전혀 흥미가 없다는 듯 돌진을 멈춰서는 것이었다.
이 놀라운 실험의 주인공인 호세 델가도 교수는 동물의 뇌에 전극을 삽입하고 전류를 가해 행동을 조종하는 연구의 대가다. 1960년대부터 원숭이의 뇌에 전극을 삽입해 그들의 공격 행동을 조종하는 연구를 진행해왔다. 이번에는 황소에게까지 같은 기술을 적용해본 것이다.
델가도 교수는 이번 투우장 실험에서 공격 성향에 영향을 미치는 선조체에 전극을 삽입해 전류를 가하는 방식으로 소의 난폭성을 극적으로 줄였다. 이것이 충분히 가능하다는 것을 보이기 위해서 자신이 직접 투우장에 들어가 사나운 소 앞에 서서 전극 실험을 시연해 보인 것이다.
그는 대뇌에 전기 자극을 가하는 방식으로 원숭이들의 위계질서를 인위적으로 교란하는 데 성공하기도 했다. 무리에서 서열 1위인 수놈의 미상핵에 전극을 삽입해서 적절한 충격을 가했더니 공격적인 성향이 많이 준 것이다. 공격 성향은 원래 시상하부가 담당하는데 움직임을 관장하는 미상핵이 시상하부에도 영향을 미치기 때문에 미상핵을 자극하니 공격 성향도 줄어든 것으로 보인다.
흥미로운 건, 그 후로 서열 2위였던 원숭이가 반란을 일으켜 우두머리가 되었고 서열 1위였던 원숭이는 아래 서열로 밀려났다는 사실이다. 게다가 우두머리였던 원숭이의 뇌에 다시 전기 자극을 가해 공격성을 회복하게 했더니, 다시 예전처럼 난폭해지면서 새 우두머리를 몰아내는 형국을 관찰할 수 있었다. 델가도 교수는 대뇌에 전기 자극을 이용해 동물의 마음을 조종한 최초의 과학자로 기록될 것이다. 뇌공학 기술을 통해 마치 꼭두각시 인형을 줄에 연결해 마음대로 조종하는 ‘인형극 연출가’처럼 말이다.
...............................................................................................
https://www.hani.co.kr/arti/science/science_general/777782.html
[ ...... 양자컴퓨터는 .... 무엇보다 인공지능(AI)의 성능을 혁신적으로 높일 수 있어 ........ ]
[과학세계]인공지능(AI) 시대 양자컴퓨터의 중요성
2023.05.09
[과학세계] 인공지능(AI) 시대 양자컴퓨터의 중요성
...............................................................................................................
미국 IBM이 개발한 양자컴퓨터 ‘오스프리’는 이미 433큐비트의 성능을 확보했다.
양자컴퓨터는 작동원리 자체가 다르다. 일반적인 상황에선 보통 컴퓨터보다 성능이 더 떨어질 수 있다. 그러나 기존의 컴퓨터로 막대한 시간이 걸렸던 소인수분해, 생화학 반응 모사, 암호 및 보안 등 과학기술 분야 연구에는 압도적 성능을 보여줄 수 있다. 무엇보다 인공지능(AI)의 성능을 혁신적으로 높일 수 있어 최근 그 관심이 더욱 높아지는 분위기다. AI시대에 이 말은 어떤 의미일까. 앞으로 양자 기술이 없는 나라는 타국에 종속적으로 끌려가야만 한다는 뜻도 된다. 양자 기술은 이미 미래 국가경쟁력을 결정하는 핵심 요소다.
...............................................................................................................................
https://www.asiae.co.kr/article/2023050907565356745
[e현장] “양자컴퓨팅, AI 분야서 효율 1000배 이상”… 올해 중요 키워드
양자 기술 중 글로벌 기술 패권 경쟁에서 핵심 요소
현 암호알고리즘 손쉽게 풀어…기존 컴보다 ‘우월’
인공지능 뿐만 아니라 다양한 분야서 연구 활발해
기자명김영욱 기자 2023.02.10
[이뉴스투데이 김영우 기자] “양자과학 기술은 글로벌 기술 패권 경쟁의 최대 승부처로 이 중 양자컴퓨터는 가장 많은 관심을 분야다. 양자컴퓨터는 현재 1980년대 애니악 수준이지만 상용화된 컴퓨터로 할 수 있는 모든 일을 양자컴퓨터로 처리할 수 있다.”
김정상 듀크대학교 교수는 10일 최종현학술원이 ‘양자컴퓨터와 첨단기술의 미래’라는 주제로 초청한 걍연에서 이 같이 말했다.
.......................................................................................................
김정상 듀크대 교수는 “반도체에 들어가는 메모리 칩은 보통 수십억개에서 수백억개의 비트를 갖고 정보를 처리하는데, 큐비트는 300개의 비트만으로 우주에 존재하는 원자의 수보다 많은 경우의 수를 처리할 수 있다”며 “주판과 슈퍼컴퓨터와 같은 고성능 컴퓨터의 성능 차이보다 양자컴퓨터와 고전컴퓨터의 차이가 훨씬 크다”고 설명했다.
양자컴퓨터는 뛰어난 연산 능력을 갖고 있어 세계적으로 사용 중인 암호 알고리즘을 손쉽게 풀 수 있다.
김정상 교수는 “하나의 수를 인수분해하는 방식으로 현재 암호화키는 1000~2000개 비트를 사용하고 있고, 이를 고전컴퓨터가 풀려면 수십억년이 필요해 안전했다”며 “양자컴퓨터는 기존에 천년이 걸릴 수 있는 문제를 수초 내에 풀 수 있다는 가능성이 존재한다”고 말했다.
이러한 가능성으로 양자컴퓨터를 활용한 해커들의 공격을 방어하기 위해 양자내성암호가 등장했다. 미국의 NIST(국가표준기술연구소)는 2024년까지 양자내성암호의 최종 표준화 대상 알고리즘 발표할 예정이다.
김정상 교수는 “기존 암호 알고리즘이 취약하다는 것을 알아냈고, 암호 체계의 무력화는 사회에 큰 혼란을 가져올 수 있어 문제를 방지할 수 있었다는 것은 긍정적인 효과”라며 “이를 두고 양자컴퓨터의 활용 가능성이 없다는 것이 증명된 것은 아니다”고 말했다.
..............................................................................................................
이날 강연에서는 양자컴퓨터는 고전컴퓨터가 할 수 있는 모든 일들을 수행할 수 있지만, 효율의 측면에서 두 컴퓨터의 할 일이 분류될 것이라고 전망했다.
...........................................................................................................................
http://www.enewstoday.co.kr/news/articleView.html?idxno=1637335
“양자기술·AI 결합하면 화학발전 소요기간 10%로 단축 가능”
박광하 기자 승인 2023.06.23
마이크로소프트, 양자 슈퍼컴퓨터 혁신 가속화 위한 로드맵 발표
250년 소요되는 화학, 재료 과학발전 기간 25년으로 압축 기대
화학 신소재 연구·개발 가속화 ‘애저 퀀텀 엘리먼트’ 공개
애저 퀀텀·AI 비서 ‘코파일럿’ 결합, 화학·재료 복잡문제 추론 가능
[데이터넷] 마이크로소프트가 한국시간 22일 과학적 발견을 가속화하기 위한 새로운 양자 서비스를 공개하고, 양자 슈퍼컴퓨터 구축을 위한 로드맵을 발표했다.
마이크로소프트는 이날 화학 회사가 신소재 연구 및 개발 속도를 높일 수 있도록 돕는 ‘애저 퀀텀 엘리먼트(Azure Quantum Elements)’와 양자기술에 인공지능(AI)을 적용한 ‘애저 퀀텀 코파일럿(Copilot in Azure Quantum)’을 소개했다.
사티아 나델라(Satya Nadella) 마이크로소프트 CEO 겸 이사회 의장은 온라인 브리핑을 통해 “AI로 발전된 추론 기능이 가장 보편적인 사용자 인터페이스인 자연어와 결합돼 새 컴퓨팅 시대를 만들고 있으며, 최근 양자컴퓨팅의 발전으로 가장 다루기 힘든 문제를 해결할 수 있는 확장 가능한 양자 머신에 대한 약속에 그 어느 때보다 가까워지고 있다”라며, “오늘 마이크로소프트는 애저 퀀텀 엘리먼트를 발표하고 처음으로 AI와 양자를 결합함으로써 과학적 발견의 새로운 시대를 열게 됐다”라고 전했다.
애저 퀀텀 엘리먼트, HPC·AI·양자컴퓨팅 기술 통합
애저 퀀텀 엘리먼트는 고성능 컴퓨팅(HPC), AI, 양자컴퓨팅의 최신 혁신 기술을 통합해 과학적 발견을 가속화한다. 과학자와 제품 개발자는 애저 퀀텀 엘리먼트를 통해 R&D 파이프라인을 가속화하고 혁신 제품을 더 빠르게 시장에 출시해 시간과 비용을 줄일 수 있다. 일부 고객은 프로젝트 시작부터 솔루션 출시까지 6개월에서 1주일로 단축 효과를 기대하고 있다.
..........................................................................................................................
https://www.datanet.co.kr/news/articleView.html?idxno=184612
2023.3.
양자컴퓨터 오류율’ 수정 기술 찾았다
김형자 과학칼럼니스트 2023.03.16
구글 퀀텀 인공지능(AI) 연구팀이 양자컴퓨터 개발 과정에서 오류 수정 방법을 찾아냈다. 미국 컬럼비아대, 호주 시드니공대 등과 함께 연산에 사용하는 큐비트의 수를 늘리면서도 오류 발생 빈도를 대폭 낮추는 데 성공했다. 양자컴퓨터 실현의 필수적 단계인 ‘오류율’ 수정 기술 개발로 상용화의 길 또한 가까워 보인다.
큐비트 밀도 높이고도 오류율 줄이는 성과
.........................................................................................................................
http://weekly.chosun.com/news/articleView.html?idxno=24934
2023.6.
딥마인드, 새로운 AI 정렬 알고리즘 발견... 10여년 만의 진전
박찬 기자 2023.06.08
7일 네이처 통해 공개... 새 AI '알파데브'로 더 빠르고 효율적인 정렬 알고리즘 찾아
딥마인드가 새로운 AI ‘알파데브(AlphaDev)’를 사용해 더 빠른 정렬 알고리즘(sorting algorithm)을 발견했다. AI가 전에 없던 새로운 알고리즘을 발견해 인간의 기술 수준을 뛰어넘을 수 있다는 것을 보여준 점에서 주목된다.
딥마인드 연구진은 7일(현지시간) 네이처에 강화학습 기반의 새로운 AI ‘알파데브’가 기존보다 빠르고 효율적인 새 정렬 알고리즘을 발견했다고 발표했다.
연구진은 알파데브가 발견한 새 정렬 알고리즘을 프로그래밍 언어인 C++의 표준 라이브러리에 기본 알고리즘으로 추가했다. 지난 10여년 동안 새 알고리즘 추가는 이번이 처음이다.
컴퓨터 알고리즘은 주어진 문제를 해결하기 위해 컴퓨터가 수행 가능한 일련의 명령들을 순서적으로 구성한 절차나 방법을 말한다. 특히 정렬 알고리즘은 데이터를 오름차순 또는 내림차순으로 재구성하는 방법이다. 정렬과 같이 매일 수조 번씩 수행되는 기본 알고리즘은 성능을 최대한 높이는 것이 무엇보다 중요하지만 더 이상 개선하기 어려운 한계에 이른 것으로 여겨져 왔다.
알파데브는 바둑, 체스 등의 게임 방법을 스스로 배운 AI인 ‘알파제로(AlphazZero)’처럼 더 나은 알고리즘을 찾는 과정을 게임에 적용해 스스로 플레이하면서 학습하고 점수를 최대화할 수 있는 옵션을 발견한다. 인간이 플레이하는 게임에 대해 훈련되지 않았기 때문에 알파데브는 인간이 생각하지 못한 게임에 대한 접근 방식을 발견할 수 있다.
알파데브는 발견한 옵션으로 알고리즘을 만들고, 더 효율적인 정렬을 찾아내면 보상을 받거나 그렇지 않으면 패널티를 받는 강화학습을 기반으로 설계됐다. 한정된 영역이지만 알파데브는 게임을 통해 기존 알고리즘을 능가하는 새로운 정렬 알고리즘을 발견해 낸 것이다.
알파데브는 기존 방식에 비해 짧은 시퀀스를 정렬하는 경우 70%, 25만개 이상의 시퀀스에 대해 약 1.7% 효율성을 높이는 알고리즘을 발견했다. 사용자가 정렬 요청을 하면 알파데브의 알고리즘이 결과를 더 빠르게 정렬하는 데 도움이 될 수 있다. 대규모로 사용하면 막대한 시간과 에너지를 절약할 수 있다.
.......................................................................................................
https://www.aitimes.com/news/articleView.html?idxno=151590
[e외신] 테라 퀀텀, 흑연서 상온 초전도체 발견 공식 발표…"꿈이 현실이 됐다"
HOPG 샘플, 임계 온도 27°C서 초전도 현상 발견 "산업 전반의 혁신적 발전 도울 것"
박기훈 기자 2024.01.26
[프라임경제] 양자 컴퓨팅 서비스 기업인 테라 퀀텀(Terra Quantum)의 연구진이 양자 과학 저널 '어드밴스트 퀀텀 테크놀로지(Advanced Quantum Technologies)'에 흑연의 상온 초전도성 연구 논문 'Global Room-Temperature Superconductivity in Graphite'을 게재했다.
현지시간으로 25일 퀀텀 인사이더(Quantum Insider)와 영국의 과학전문매체 IFL사이언스(IFLScience) 등에 따르면, 테라 퀀텀 연구진이 이탈리아 페루자 대학 및 스위스 과학기술연구원과 함께 주도한 연구를 통해 '고배향성 열분해 흑연(Highly oriented pyrolytic graphite, 이하 HOPG)'의 실온 초전도성을 발견했다고 공식 발표했다.
HOPG는 흑연의 결정체가 서로 정렬돼 있어 그 사이의 각도가 극히 작은 합성 흑연 형태다.
이와 관련해 연구를 주도한 발레리 비노쿠르(Valerii Vinokur) 테라 퀀텀 최고 기술 책임자(박사)는 "동화로만 보던 희망이 현실이 됐다"며 "우리 연구는 인류가 수은에서 초전도성을 처음으로 관찰한 이후 약 100년 동안 기다려온 실험적 발견"이라고 자평했다.
연구진은 먼저 스카치 테이프를 이용해 HOPG 샘플을 얇게 쪼갰다. 쪼개진 표면에는 평행선으로 촘촘하게 배열된 주름이 발생한다. 이러한 주름의 기하학적 구조로 인해 전자는 초전도 전류가 주름을 따라 흐를 수 있는 구조로 쌍을 이룬다. 해당 주름이 초전도성을 위한 기반이 되는 것이다.
연구팀은 해당 주름에서 쿠퍼쌍(Cooper pair)이 형성된다고 언급했다. 초전도 현상이 일어나는 이유는 온도·압력에 따라 전자 2개가 한 쌍을 이루는 쿠퍼쌍 현상 때문이다. 쿠퍼쌍 현상이 일어나면 내부 전기 저항이 제로가 된다.
연구진들은 HOPG 샘플의 초전도 현상이 일어나는 임계 온도가 300K(27°C 또는 80°F)라고 주장했다. 또한 해당 물질의 저항과 자화율이 다른 초전도 물질에서 나타나는 그것과 일치했다고 덧붙였다.
..................................................................................................
비노크루 박사는 "현재 10~20밀리켈빈(mK)에서만 작동하는 큐비트(QUBIT)가 실온에서 작동할 수 있기 때문에 신흥 양자 컴퓨팅 분야에 엄청난 이점을 가져올 것"이라고 강조했다.
https://www.newsprime.co.kr/news/article/?no=626151
AI 기계 학습에 강한 모듈식 ‘다중 자아’ 시스템
By David -2023-07-18
인공지능(AI) 다중 에이전트 시스템은 복잡하게 변화하는 세계를 탐색하고 적응하는 데 도움이 된다.
미국 프린스턴 신경과학 연구소(Princeton Neuroscience Institute) 연구팀은 기계 학습 의사 결정에서 에이전트 프로세스를 개선하는 접근 방식을 찾았다.
7월 3일 미국 국립과학원회보(Proceedings of the National Academy of Sciences)에 발표된 논문에서 연구원들은 단일 AI 에이전트와 모듈식 다중 AI 에이전트 시스템에서 사용되는 강화 학습 접근 방식을 비교했다.
그들은 2차원 그리드에서 간단한 생존 게임으로 심층 강화 학습(deep reinforcement learning) 에이전트를 훈련했다. 요원들은 현장 주변에 숨겨진 다양한 자원을 찾고 우세할 수 있는 충분한 공급 수준을 유지하도록 훈련했다.
“통일된 두뇌” 또는 “자아”로 간주되는 한 에이전트는 표준 방식으로 작동하여 각 목표를 평가하는 단계별 접근 방식을 취하고 시행 착오를 통해 각 단계에서 최상의 솔루션이 무엇인지 학습했다.
모듈식 에이전트는 더 좁게 정의된 목표를 가지고 고유한 경험, 성공 및 실패를 가진 하위 에이전트의 입력에 의존했다. 여러 모듈의 입력이 단일 “두뇌”에서 평가되면 에이전트는 진행 방법을 선택했다.
연구원들은 개인이 상충되는 필요와 목표를 관리하는 방법에 대한 고전적인 오랜 논쟁과 관련된 원칙과 설정을 비교했다.
수석 연구원인 조나단 코헨(Jonathan Cohen)은 “결정이 모든 필요를 통합적으로 고려하는 단일한 모놀리식 에이전트(또는 ‘자기’)에 의존하는지 또는 오히려 여러 모듈식 에이전트 즉, ‘다중 자아(multiple selves)’ 간의 새로운 경쟁 프로세스를 반영하는지 여부는 신화”라며 “신경 과학, 심리학, 경제학, 사회학에서 인공 지능 및 기계 학습에 이르기까지 행위자 행동을 연구하는 거의 모든 과학 분야에서 이론적 및 경험적 작업의 초점”이라고 말했다.
단일 에이전트는 3만 개의 훈련 단계 후에 게임의 목표를 달성했다. 모듈식 에이전트는 더 빨리 학습하여 단 5,000개의 학습 단계 후에 상당한 진전을 보였다.
........................................................................................................
2023.5.
[ "AI로 인한 인류 멸망 위험을 줄이는 것은 전염병, 핵전쟁과 같은 사회적 위협과 마찬가지로 전 세계적인 우선순위가 돼야 한다" ]
"AI, 핵만큼 인류 위협"… 전문가 350명의 짧고굵은 성명
머니투데이
윤세미 기자
미국 과학자 수백명이 AI(인공지능) 기술에 따른 인류 멸망을 경고했다. AI가 전염병, 핵전쟁과 비슷한 수준으로 인류 문명에 위협을 가할 수 있기 때문에 규제가 필요하다는 지적이다.
30일(현지시간) CNN 등 외신에 따르면 미국 비영리단체인 AI안전센터(CAIS)는 성명을 내고 "AI로 인한 인류 멸망 위험을 줄이는 것은 전염병, 핵전쟁과 같은 사회적 위협과 마찬가지로 전 세계적인 우선순위가 돼야 한다"고 밝혔다.
성명은 이 한 문장이 전부였다. 이 성명엔 최근 AI 붐을 일으킨 챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO), 데이비드 하사비스 구글 딥마인드 CEO 등 업계 리더를 포함해 'AI 대부'로 불리는 제프리 힌튼 토론토대 교수, 요수아 벤지오 몬트리올대 교수 등 350명 넘는 AI 전문가들이 서명했다.
CNN은 이번 성명을 두고 "이보다 더 직접적이고 긴급할 수는 없다"면서 "전문가들은 AI가 인류의 존립에 미칠 잠재적 위험을 경고하기 위해 있는 힘껏 패닉 버튼을 눌렀다"고 지적했다.
CAIS의 댄 핸드릭스 이사는 이번 성명은 "핵 과학자들이 자신들이 발견한 기술에 대해 경고한 것에 비유할 수 있다"며 제 2차 세계대전에서 원자폭탄 개발을 주도했던 미국 물리학자 로버트 오펜하이머가 한 "세상이 예전 같지 않을 것이라는 걸 알고 있다"는 말을 인용했다.
........................................................................................
이제 전문가들은 큰 사고가 발생하기 전에 규제가 마련돼야 한다고 요구하고 있다. 일론 머스크 테슬라 최고경영자(CEO)도 그중 하나다. 그는 앞서 명확한 규칙이 정해지기 전까지 AI 모델에 대한 연구를 잠정 중단할 것을 요구하는가 하면 AI에 대한 의존이 인류 문명을 위협할 수 있다고 경고하기도 했다.
https://news.mt.co.kr/mtview.php?no=2023053115071899147
2023.7.
'초지능 10년 안에 도래한다'... 오픈AI 대응팀 구성
정병일 기자
2023.07.06
오픈AI가 인간의 지능을 넘어서는 인공지능(AI)이 10년안에 나타날 것으로 보고 대응팀을 구성했다. 4년안에 기술적인 문제를 풀어내겠다는 것이 목표다.
오픈AI는 5일(현지시간) 블로그에 "일반 인공지능 또는 범용 인공지능(AGI)으로도 불리는 초지능이 지금은 멀게 느껴지지만 10년 안에 도래할 것으로 믿는다"면서 "AI를 인간 수준으로 자동 정렬하는 시스템을 구축한 다음 대규모 컴퓨팅을 사용해 초지능을 반복적으로 조정하는 방안을 추진하겠다"고 밝혔다.
이를 위해 일리아 슈츠케버 수석과학자와 제인 레이크 정렬 책임자를 공동 팀장으로 하는 '초지능 정렬팀'을 구성했다는 사실도 공개했다. 4년안에 기술적인 문제를 모두 풀겠다는 목표도 제시했다.
정렬 기술 개발 작업에 보유중인 컴퓨팅 능력의 20%를 할애하고, 연구팀을 보강하기 위해 연구원과 엔지니어도 신규 채용할 계획이라며 기계학습 전문가 참여도 요청했다.
오픈AI는 2015년 설립 당시부터 AGI 개발을 통해 인류에 공헌한다는 사명을 내세우고 이를 '헌장'으로 만들어 웹사이트에 게시했다. 여기에 AGI에 대한 정의도 담았다. '가장 경제적으로 가치 있는 작업에서 인간을 능가하는 고도로 자율적인 시스템'이라는 것이다.
.......................................................................................................
https://www.aitimes.com/news/articleView.html?idxno=152261
범용인공지능(AGI)의 공포
정병일 AI타임스 전문위원
2023.05.18
인공지능(AI) 기술이 비약적으로 발전하면서 AI가 가져올 위험성도 커지고 있다는 경고가 잇따르고 있다.
최근에는 'AI 대부'로 불리는 제프리 힌튼 토론토대 교수도 우려의 목소리를 강하게 내놓았다.
AI의 위험성을 알리기 위해 구글의 수석연구원직을 사임했을 정도다.
이후 여러 언론 매체와 인터뷰에서 "AI가 핵보다 위험하다"고 일갈했다.
AI의 위험성을 강조하는 그의 얼굴은 매우 어두워 보였다.
지난 50년 동안 인공신경망 개념을 개척하고 '역전파'라는 기술을 제안하는 등 심층학습을 선도해온 75세의 노학자가 자신이 해온 일을 후회하는 배경은 뭘까.
인간이 통제할 수 없는 범용 인공지능(AGI, Artificial General Intelligence)이 곧 도래할 수 있다는 인식 때문으로 보인다. AGI는 인간을 넘어서는 지능을 가진 자율적 인공지능을 말한다.
인간의 지도 없이 스스로 학습하며 발전하고 필요한 기능이나 기계를 창조할 수 있기 때문에 개념상 인류가 최후에 발명할 기계가 된다. 초지능, 일반인공지능이라는 용어도 같은 의미로 쓰인다.
힌튼 교수는 BBC 인터뷰에서 "얼마 전까지만 해도 AGI가 상용화되기 까지 20년에서 50년은 걸릴 것으로 생각했지만 지금은 20년 이하로 생각하고 있다"고 말했다. 트위터에는 5~20년이라고 썼다.
AGI가 인류를 멸망시키려 할 가능성이 있느냐는 질문에 그는 "상상할 수 없는 일이 아니다"며 "‘터미네이터’ 같은 킬러 로봇이 현실화될 수 있다"고 답했다.
AGI의 출현 가능성과 위험성은 여러 학자와 전문가가 언급했다. 고 스티븐 호킹 박사는 2014년에 "인간을 뛰어넘는 지능을 가진 AI는 스스로를 개량하고 도약할 수 있는 반면 인간은 생물학적 진화 속도가 늦어 경쟁할 수 없게 되고 결국 대체되고 말 것"이라고 예언하기도 했다.
일론 머스크 테슬라 CEO는 "AGI에 대항하기 위해 인간이 사이보그가 돼야 한다"는 주장을 편다. 또 대표적인 AGI 경계론자인 엘리저 유드코스키는 최근 타임지 기고문에 '임박한 AGI의 실존적 위협’을 차단하기 위해 "데이터센터를 폭격할 수 있어야 한다"고 썼다.
이들의 주장에는 모두 AGI에 대한 공포가 깔려있다. 본질은 통제불가능성에 대한 두려움이다. 인간을 넘어서는 지능과 심지어 의식도 가지게 된 기계가 인간의 가치에 맞게 ‘정렬(alignment)’ 하지 않을 수 있으며 이는 인류 멸망의 대재앙으로 이어질 것이라는 디스토피아적 전망이기도 하다.
그러나 AGI는 불가능하다는 주장도 만만치 않다. 불가능하니 걱정할 필요도 없다는 입장이다.
............................................................................
AGI가 이론적으로 개발하기 어렵다는 주장 외에 현실적으로도 어렵다는 지적도 있다. AI는 훈련 데이터만큼만 우수한데 아직 데이터가 충분하지 않은 분야가 적지 않다는 현실론이다.
.............................................................................................
https://www.aitimes.com/news/articleView.html?idxno=151182
2023.9.
美 빅테크 거물들 “AI규제, 정부가 나서야”
김보라 기자
2023-09-15
머스크-저커버그-게이츠-올트먼 등
美의회 포럼 참석 ‘규제’ 한목소리
‘현피’ 설전 벌였던 머스크-저커버그
이날 만났지만 대화는 나누지 않아
X(옛 트위터) 소유주인 일론 머스크, 마크 저커버그 메타 최고경영자(CEO), 빌 게이츠 마이크로소프트(MS) 창업자, ‘챗GPT 아버지’ 샘 올트먼 오픈AI CEO 등 미국 빅테크 거물들이 한자리에서 한목소리로 인공지능(AI) 규제를 주문했다.
13일(현지 시간) 척 슈머 민주당 상원 원내대표가 미 의회에서 비공개로 개최한 ‘AI 인사이트 포럼’에서 머스크는 “AI는 양날의 검”이라며 “엄청난 잠재력을 지니고 있지만 동시에 문명에 대한 위험도 내포하고 있다”고 경고했다. 슈머 원내대표에 따르면 머스크는 특히 “(앞으로) 이해하기 어려울 정도의 지능을 가진 데이터센터가 인류를 위협할 수 있다”며 “더 심화된 인공지능(deeper AI)을 경계해야 한다”고 강조했다.
머스크는 포럼이 끝난 뒤 기자들의 질문에 “스포츠에 심판이 있듯 연방항공청(FAA)이나 증권거래위원회(SEC)처럼 AI 담당 부처가 필요하다”고 주장했다. 앞서 머스크는 올 3월 사회에 위험이 된다며 챗GPT보다 강력한 시스템 개발을 6개월간 중단해 달라고 촉구했다.
저커버그도 규제에 찬성하며 “미국만의 (규제) 표준을 만드는 것이 중요하다”고 말했다. 그러면서 “기본 AI 시스템 소스코드를 공개하면 혁신이 촉진될 것”이라고 제안했다. 반면 게이츠는 “보안을 뚫고 유해 정보가 퍼지는 등 부작용이 있을 수 있다”며 반대했다.
이날 포럼에는 이 밖에도 젠슨 황 엔비디아 CEO, 순다르 피차이 구글 CEO 등 미국 AI 기술을 주도하는 업계 인사 10여 명과 상원의원 60여 명이 참석했다. 슈머 원내대표는 “방식은 다르지만 참석자 모두 정부가 AI 규제에 역할을 해야 한다는 데 동의했다”고 밝혔다. 미 뉴욕타임스(NYT)는 “(이 포럼이) AI (규제) 방향에 영향을 미칠 것으로 보인다”고 전했다. 다만 구체적인 규제 내용에 대한 합의는 없었다고 CNN 방송은 보도했다.
....................................................................................................................................
https://www.donga.com/news/People/article/all/20230915/121190177/1
2023.10.
개념 배우더니 상황별 응용까지 척척… AI, 더 사람 같아졌다
박정연 동아사이언스 기자
2023-10-27
미국 연구팀 ‘네이처’ 발표
데미스 허사비스 구글 딥마인드 최고경영자(CEO)는 25일 영국 가디언과의 인터뷰에서 “인공지능(AI)의 위험을 기후변화와 같은 글로벌 문제만큼이나 심각하게 받아들여야 한다”고 말했다. 생화학무기 생성을 돕는 등 인간 능력을 상회하는 초지능 기술이 다양한 측면에서 위협이 될 수 있다는 것이다.
실제 AI 기술은 최근 몇 년간 비약적으로 발전했다. 미국 변호사시험을 통과하고 의사보다 빠르게 병변을 찾아냈다. 다년간 전문적인 교육을 받은 인간과 유사한 수준의 능력을 과시하며 사람들을 놀라게 했다. AI가 인간의 능력을 뛰어넘는 시대가 조만간 도래할 것으로 여겨졌지만 주어진 환경을 응용하는 ‘체계적 일반화’에서 인간을 능가하긴 어려울 것이라는 견해가 지배적이었다. 체계적 일반화는 인간이 새로운 개념을 학습할 때 기존 개념과 결합해 사고하는 것을 말한다. 효율적인 학습을 위해 필수적인 사고능력이다. AI가 여기에까지는 이르지 못할 것이라고 본 것이다.
● ‘메타학습법’으로 학습 알고리즘 실시간 개선
이 같은 학계 예측을 뛰어넘은 AI 기술이 등장했다. 인간만이 가진 고유의 능력에 또 한 걸음 다가선 것이다. 브렌든 레이크 미국 뉴욕대 교수 연구팀은 인간과 유사한 사고능력을 가진 AI 모델을 26일 국제학술지 네이처에 발표했다. 네이처는 “AI에서 체계적 일반화를 구현할 수 없다는 35년간의 통념에 도전하는 연구 결과”라며 “인간과 더 가까운 AI를 개발할 가능성을 제시했다”고 평가했다.
체계적 일반화는 인간과 AI의 사고능력을 구별하는 주된 능력 중 하나로, ‘응용력’을 뜻한다. 예를 들어 인간은 ‘멀리 뛰는 법’을 배우고 나면 이를 ‘뒤로 뛰기’나 ‘장애물 뛰어넘기’ 같은 유사 동작을 이해하고 다른 상황에 적용할 수 있다. 과학자들은 AI와 같은 인공신경망이 학습 과정에서 이러한 응용력을 지니지 않았기 때문에 인간의 사고능력과 근본적인 차이가 있는 것으로 여겼다. 방대한 자료를 학습하기에도 빠듯한 AI가 축적된 자료를 바탕으로 새로운 사실이나 판단을 이끌어내기에는 용량이 부족하다는 얘기다.
연구팀은 AI가 제한된 용량으로도 응용력을 습득할 수 있게 하기 위해 ‘메타학습법’을 AI 모델에 구현했다. AI 학습법 중 하나인 메타학습법은 문제 해결 과정에서 끊임없이 알고리즘을 개선한다. 기존 AI 학습법이 데이터를 학습하고 해결법을 도출하는 과정에서 고정된 알고리즘을 사용하는 것과는 다른 방식이다. 연구자들은 기존 학습법과 메타학습법을 각각 ‘정적인 방식’과 ‘동적인 방식’으로 불렀다.
알고리즘이 실시간으로 개선되면 AI는 더 최적화된 학습 효과를 누릴 수 있다. 효율적으로 학습이 이뤄져 문제를 처리하는 과정에서 발생하는 데이터 병목 현상도 줄어든다. 이렇게 되면 AI가 자료를 처리하는 데 응용력을 발휘할 여력이 생긴다.
● 인간처럼 사고하는 AI 모델
연구팀이 개발한 AI 모델은 문제 상황을 해결하기 위해 인간처럼 사고했다. ‘살금살금 걷는다’라는 개념을 학습시킨 뒤 넘어지기 쉬운 원뿔 모양의 장애물 주변을 지나가는 상황을 제시하자 ‘살금살금 걸어 장애물을 피한다’는 해결 방식을 도출해냈다. 학습한 행위를 다양한 상황에 응용한 것이다. 또 가상의 영어 단어들을 제시하고 이 단어들의 문법적 성격을 추론하라는 과제에서도 인간과 비슷한 정답을 제출했다. AI는 가상의 단어가 가진 철자를 바탕으로 해당 단어를 명사, 형용사, 동사 등으로 분류했다. 기존에 학습한 영어 문법을 응용해 단어의 문법적 역할을 추측해내는 데 성공한 것이다.
연구팀은 “메타학습법을 사용해 개발된 이번 AI 모델은 인간과 비슷한 수준의 체계적인 일반화 사고능력을 보였으며 오류가 발생하는 과정에서도 인간과 유사한 모습을 보였다”고 설명했다. 특히 인간이 유아기부터의 경험을 통해 새로운 개념을 배우는 기술을 연마하는 것과 달리 AI는 단번에 성인 수준의 사고능력을 갖추게 됐다고 강조했다.
연구팀은 향후 실제 인간이 사고능력을 습득하는 과정까지 따르는 AI 모델 개발 계획을 제시했다.
................................................................................................................
https://www.donga.com/news/article/all/20231027/121890048/1
2023.10.
AI, 5년 뒤 사람보다 더 똑똑해진다
토론토 대학교 제프리 힌튼 교수 AI가 사람 통제할 수도… 전 인류 경각심 가져야
입력 2023.10.09
김미정 기자
5년 뒤 인공지능(AI) 추론 능력이 사람보다 더 뛰어날 수 있다. 더 똑똑한 AI가 인간을 통제하는 시대가 오고 있다. 지금이야말로 AI 위험성에 대한 경각심을 갖고 이에 대한 대비책을 마련해야 할 때다.
토론토대 제프리 힌튼 컴퓨터공학과 교수는 8일(현지시간) 미국 CBS '60분'과 진행한 인터뷰에서 5년 안에 AI 추론 능력이 인간을 뛰어넘을 것이라며 이같이 밝혔다. 힌튼 교수는 AI가 예상보다 더 똑똑할 수 있다며 사람은 이에 대한 경각심을 가져야 한다고 강조했다.
제프리 힌튼 교수는 향후 AI 추론 능력이 사람을 뛰어넘을 수 있는 이유도 밝혔다. 힌튼 교수 설명에 따르면, 현재 가장 성능 높은 AI 챗봇 매개변수는 1조개다. 반면 인간 뇌 매개변수(시놉시스)는 약 100조개다.
힌튼 교수는 챗봇이 사람보다 매개변수는 적지만, 더 복잡한 일을 사람보다 더 잘 이해, 처리할 수 있다는 입장이다. 그는 일반적으로 사람은 복잡한 일을 처리할 경우, 이를 충분히 숙지하고 이해해야 한다고 말했다. 사람은 뇌에서 무슨 일이 일어나는지, 신경망이 이를 어떻게 받아들이는지 인지하지 못하기 때문이다.
그는 반면 AI는 말 그대로 기계라며 매개변수 간 연결성과 정보 처리 과정을 사람보다 더 잘 안다고 설명했다. 힌튼 교수 설명에 따르면, AI가 난이도 높은 업무를 수행할 경우 학습 알고리즘을 통해 데이터와 상호작용하면서 복잡한 신경망을 새로 만든다. 해당 신경망을 통해 복잡한 업무를 즉각적으로 받아들이고 처리할 수 있다.
제프리 힌튼 교수는 AI의 이런 능력이 더 발달한다면, 향후 자율적으로 컴퓨터 코드를 생성·실행할 수 있을 것이라고 예측했다. 컴퓨터 시스템이 인간 통제를 벗어날 수 있다는 의미다. 그는 이를 통해 AI가 사람을 조종할 수 있을 것이라고 강조했다. 힌튼 교수는 AI는 지금까지 인류가 작성한 모든 뉴스, 소설, 기밀 서류 등을 학습했다며 사람을 조종하고 설득하는 데 매우 능숙할 것이라고 덧붙였다.
힌튼 교수는 AI가 향후 자의식까지 가질 수 있다고 말했다. (사진=CBS)
제프리 힌튼 박사는 AI가 추론 능력을 더 기르면 향후 자의식까지 가질 수 있다고 말했다. AI가 현재 데이터에 기반해 추론하는 것에 그치지만, 향후 자율적인 컴퓨팅 조종으로 자율적인 판단이 가능하다는 이유에서다.
힌튼 박사는 향후 AI 추론 능력을 악용하는 사람이나 조직도 늘어날 것이라고 경고했다. 그는 해당 추론 능력이 가짜뉴스 생산, 자율 전장 로봇 개발에 활용될 것이라고 지적했다. 제프리 힌튼은 지금이야말로 각국 정부가 AI를 이해하기 위한 실험을 진행하고, 규제를 도입하고, 군사용 로봇 사용을 금지하는 조약을 체결해야 할 때라고 강조했다.
2023.12.
AI가 AI를 만드는 시대... 대형 모델 자기 복제로 엣지 AI 생성
박찬 기자
2023.12.19
대형 인공지능(AI) 모델의 '자기 복제'를 통해 소형 AI 모델을 구축하는 데 성공했다. 인간 개입 없이 AI가 모델을 스스로 구축하고 개선하는 등 AI의 진화 잠재력을 보여줬다는 평이다.
비즈니스인사이더는 18일(현지시간) Ai집(AiZip)과 MIT, UC데이비스 연구원들이 챗GPT와 같은 대형 AI 모델을 복제하고 센서 데이터에서 실시간으로 미세조정, 사람 개입 없이 더 작고 전문화된 AI 애플리케이션을 생성하는 완전 자동화 파이프라인을 구축했다고 보도했다.
유베이 첸 Ai집 공동설립자는 “우리는 사람의 개입 없이 데이터 생성부터 모델 배포 및 테스트까지 한가지 유형의 모델을 자동으로 설계할 수 있는 최초의 사례를 만들었다”라며 “이는 AI가 AI를 구축할 수 있음을 보여주는 첫 단계라고 말했다. 이 회사는 사물인터넷(IoT) 등 엣지 AI 전문 스타트업이다.
연구진은 주목할 만한 성과로 대형모델이 자기 복제를 통해 초소형 엣지 AI를 생성했다는 점을 꼽았다.
동전보다 작은 칩에 내장, 인간의 동작을 수집하고 분석하는 초소형 엣지 AI는 AI 애플리케이션 규모의 패러다임 변화를 나타낸다고 설명했다. 이런 초소형 AI 시스템은 가전 제품부터 개인용 기기에 이르기까지 거의 모든 장치에서 AI를 구동하는 데 필요한 요소다.
따라서 연구원들은 크고 작은 AI 모델이 협력, 완전한 지능 생태계를 구축하는 미래를 예측했다. 기존의 AI 애플리케이션을 넘어, 다양한 장치에 적용하면 효율적인 시스템을 갖출 수 있다는 설명이다.
연구진은 AI의 자기 복제 기능은 독립적으로 적응하고 진화할 수 있는 지능형 시스템을 생성할 수 있는 새로운 가능성을 보여주며, AI 연구 및 개발의 새로운 시대를 연 것이라고 밝혔다.
......................................................................................
AI가 AI를 생성할 수 있다는 사실은 AI 진화의 중추적인 순간을 의미한다라고도 강조했다. AI 개발 자동화부터 일상 사물에 지능을 통합하는 것까지 그 가능성은 무궁무진하다는 설명이다.
이런 설명은 언뜻 영화 등에서 기계가 기계를 무한 생성하는 모습을 떠올리게 한다. 하지만 연구진은 이로 인해 인간 작업에 더 편해질 것으로 봤다.
................................................................................................
https://www.aitimes.com/news/articleView.html?idxno=155957
2023.11.
오픈AI 연구진 인류 위협하는 모델 나왔다 경고
데이터셋 응용 스스로 연산 문제 해결
컴퓨팅입력 2023.11.24
김미정 기자
지난 일주일 간 벌어졌던 오픈AI CEO 해임 사태의 원인이 조금씩 확인되고 있다. 인류를 위협할 정도로 강력한 인공지능(AI) 모델이 나타났고, 몇몇 연구원이 이사회에 이메일을 보내 경고했다는 것이다.
22일 미국 디인포메이션은 오픈AI 연구진이 강력한 일반인공지능(AGI)을 개발했다는 내용의 서한을 이사회에 보냈다고 보도했다. 서한을 보낸 시점은 샘 알트먼 해임 소동 발생 직전이다.
보도에 따르면 AI 모델 이름은 '큐 스타'다. 기존 모델 발전 속도가 몇십 배 더 빠르다. 연구진들은 모델의 수학 연산 능력을 테스트한 뒤 충격을 감추지 못했다는 입장이다.
일반적으로 챗GPT 등 생성형 AI는 통계 기반으로 다음 단어를 예측하는 방식으로 문자를 생성한다. 수학 연산도 마찬가지다. 데이터 학습 범위 내에서만 연산할 수 있다. 학습하지 않은 새로운 수학 문제 정답을 맞힐 수 없다.
큐 스타는 다르다. 추가 데이터 학습 없이 연산 문제 이해부터 푸는 것을 스스로 할 수 있다. 기존 데이터셋을 응용할 수 있기 때문이다. 데이터셋에 없던 새로운 연산 문제도 능숙하게 풀 수 있는 이유다. 사람처럼 기존 지식을 응용해 새로운 문제를 해결할 수 있는 셈이다.
일반 사람들이 보기에 AI의 이런 능력이 간단해 보일 수 있지만, AI 연구 분야에선 기술 혁신에 가깝다. 22일 더 버지는 큐 스타가 수학 문제를 스스로 풀 수 있다는 건 AGI에 한발짝 더 가까워졌다는 신호라고 전했다.
연구진들은 서한을 통해 모델 큐 스타는 인류를 파괴할 정도로 강력한 시스템으로 사용될 수 있을 것이라며 개발 속도에 대한 경각심을 가져야 할 것이라고 이사회에 경고했다.
2023.11.
[ ...... 우리가 .... 동물들에게 동의를 구하진 않잖아요 ....... ]
‘알파고 개발’ AI 천재는 왜 올트먼에 맞서 쿠데타 일으켰나
올트먼 축출 주도했던 수츠케버
실리콘밸리=오로라 특파원
2023.11.23.
“일반 인공지능(AGI·Artificial General Intelligence)과 인간의 관계는 인간이 동물을 대하는 방식과 비슷할 겁니다. 인간이 동물을 미워하진 않죠. 그렇다고 고속도로를 만들 때 우리가 그곳에 있는 동물들에게 동의를 구하진 않잖아요”
일리야 수츠케버 오픈AI 이사(최고 과학자)는 지난 8월 방영된 BBC 다큐멘터리 ‘i휴먼’에 출연해 인간과 동등한 기능을 수행하는 고성능 AI ‘AGI’의 출현이 “인류에게 혜택일지 모르겠다”고 했다. 그는 “나는 AGI가 아주 빠른 시일 내 나타날 것이라 보며, 당장 대비를 시작해야 한다고 믿는다”고 했다.
22일(현지 시각) 5일 천하로 끝난 샘 올트먼 오픈AI 최고 경영자(CEO) 축출 사태를 주도했던 수츠케버는 단 한 번도 구체적인 이유를 설명하지 않았다. 다만 실리콘밸리 AI 업계에선 ‘급진적 AI 상업화에 나서는 올트먼을 자신이 멈춰 세워야 한다고 생각했을 것’이라는 분석이 나온다. 그는 오픈AI 직원 전체가 사표를 내겠다며 사태가 커지자, 돌연 올트먼 복귀를 지지하는 쪽에 섰다. 오픈AI의 공중분해는 막겠다는 이유였다.
수츠케버와 접점이 있는 사람들은 그에 대해 ‘말도 안 되게 똑똑하고 착한 사람’이라고 표현한다. ‘오픈AI 개발자 700명보다 수츠케버 한 사람이 더 뛰어나다’는 평을 들을 정도로 AI 개발 능력이 뛰어난 데다, 종교적인 신념으로 AI가 인류에게 미칠 위협을 우려한다는 것이다. 그는 “지금 AI 개발 속도가 10이라면, 우리는 1이나 2 정도 속도로 AI를 개발해야 한다”고도 말한 적 있다.
그는 2002년 ‘딥러닝의 아버지’ 제프리 힌턴 교수가 있는 토론토대에 진학했다. 힌턴 교수 밑에서 컴퓨터 과학 박사과정을 지낸 그는 오늘날 딥러닝의 시초로 불리는 ‘알렉스넷’ 개발에 참여했고, 그 후 구글에 채용돼 바둑 AI ‘알파고’ 개발을 주도했다. 현재 AI 시대를 연 주요 장면마다 그가 있었던 것이다.
구글에서 승승장구하던 수츠케버를 빼낸 것은 일론 머스크 테슬라 CEO였다. ‘안전한 AI의 발전’을 모토로 삼은 비영리 재단 ‘오픈AI’를 구상한 머스크에게 AI 안전에 관심이 많은 수츠케버는 빠져서는 안 되는 핵심 인재였다. 머스크는 수츠케버에게 “구글은 전 세계 AI 연구자 3분의 2를 보유하고 있지만, 안전에는 신경 쓰지 않는다”며 회유했다.
하지만 21일 올트먼 CEO가 오픈AI로 전격 복귀하게 되면서, 수츠케버가 지키려던 ‘AI 안전 개발’ 이념은 요원해질 것으로 보인다. 와이어드는 “이사회에서도 잘리고, 명분도 지키지 못한 수츠케버가 이번 사태 최고의 루저(패배자)”라고 했다.
글로벌 정책 결정자들 사이에선 ‘AI 개발에 대한 국가적 개입을 강화해야 한다’는 목소리가 나온다. 21일 로이터통신에 따르면 강력한 AI 규제법을 제정하고 있는 유럽연합(EU)에선 오픈AI 사태 이후 AI 기술 기업에 자율 규제를 어느 정도 허용해야 할지 논의가 시작됐다. 핵무기처럼 위험한 AI 기술을 개발하는 기업에서 내부적으로 반란이 일어나고, 이 회사가 보유한 중요 데이터와 기술이 어디로 흘러갈지 모르는 불안정한 경우가 재연돼서는 안 된다는 것이다.
AI 개발 기업의 투명성을 요구하는 목소리도 높아지고 있다.
...................................................................................................
https://www.chosun.com/economy/tech_it/2023/11/23/ANQFE6BLKJBDBIRU36DBYCJ3K4/
[태원준 칼럼] AI, 고삐가 풀렸다
2023-02-17
‘깜깜이’ 정보처리 과정 탓에 블랙박스라 불리는 신경망 AI
챗GPT가 폭발적 관심 끌자 빅테크 기업들 AI 상품화 경쟁
인류 문명의 게임체인저 기술 아직 그 통제력 확보 못했는데
신뢰성 안전성은 뒷전 밀린 채 시장에 쏟아져 나오려 한다
인간사회 내재된 자본의 속성 그 기저에 깔린 인간의 욕망이 그렇게 만들었다
1990년 즈음 인공지능(AI) 업계에 겨울이 찾아왔다. 사람처럼 말하고 생각하는 기계를 만들려는 이들이 30년 넘게 따랐던 방법론의 한계가 명확해졌다. 그들은 컴퓨터를 가르칠 수 있다고 믿었다. 정교한 프로그래밍을 통해 지능을 심으려 했는데, 사람처럼 굴게 하려면 입력해야 할 규칙과 변수가 너무 많았다. ‘프로그래밍 AI’의 구현 범위가 특정 영역에 국한되자 실망한 투자자들이 하나둘 떠나면서 돈줄이 말랐다. 이후 20년간 계속된 자금난의 시기를 그 바닥 사람들은 ‘AI 윈터’라고 부른다.
다시 봄이 온 것은 2010년대 들어서였다. 줄곧 변방에 머물던 다른 방법론, 기계도 사람처럼 경험하고 학습하게 해보자는 아이디어가 대안으로 떠올랐다. 프로그래밍이 주입식 교육이라면 이는 창의성 교육인 셈인데, 빅데이터의 출현으로 컴퓨터가 경험하고 학습할 환경이 조성됐다. 스스로 공부하게 만들 방법은 뇌과학이 힌트를 줬다. 인간의 뇌는 수많은 뉴런(신경세포)과 그것을 이어주는 시냅스가 그물망을 이루고 있다. 이를 본떠 인공 신경망을 만들고 빅데이터 환경에 풀어놓아 자율학습(딥 러닝)을 시키자 알파고는 바둑을 배웠고 챗GPT는 사람처럼 말하게 됐다.
그런데 ‘신경망 AI’가 진화할수록 프로그래밍 AI에 향수를 느끼는 연구자가 많아졌다. 그들은 프로그래밍 AI를 GOFAI(Good Old-Fashioned AI)라고 불렀다. ‘멋진’ 구식 인공지능. 구식인데 멋지다고 한 까닭은 인공지능이 틀린 답을 내놓을 때 적어도 왜 틀렸는지 확인할 순 있었기 때문이다. 사람이 해준 프로그램에 따라 작동하니 프로그램을 점검하면 오류 원인을 찾을 수 있었는데, 신경망 AI는 그게 되지 않는다.
우리가 우리의 뇌를 너무 모른다는 게 문제였다. 뇌에는 1000억개 뉴런과 100조개 시냅스가 있다. 사람의 생각이 이뤄지는 뇌에서 저 많은 뉴런과 시냅스가 어떻게 정보를 처리하는지 우리는 알지 못한다. 뇌과학이 발달했다지만, 어떤 부위에서 어떤 정보를 처리한다는 정도만 어렴풋이 짐작할 뿐이다. 뇌의 작동원리를 모른 채 뇌를 본떠 만든 탓에 인공 신경망도 신비의 영역이 됐다.
챗GPT의 알고리즘은 의외로 단순하다. 자율학습 시간에 교사가 할 일이 별로 없듯이, 기본적 규칙만 알려주면 돼서 코딩이 몇 줄 되지 않는다. 나머지는 수십억개 인공 뉴런과 1750억개 매개변수(시냅스 역할)가 알아서 하니, 방대한 학습량 중 어떤 정보를 어떻게 활용해 질문에 답하는 건지 확인할 길이 없다. 챗GPT에게 답변 내용의 출처를 물으면 “그런 기능은 없다”고 말하는 것 역시 그래서다. 신경망 AI를 ‘블랙박스 AI’라고도 한다. 그 속을 알 수 없어서.
블랙박스란 특성은 신경망 AI의 치명적 결점으로 꼽혀 왔다. 복잡한 분석과 판단을 맡기려고 AI를 만드는데, 그 과정이 깜깜이로 이뤄지면 검증할 수 없고, 검증하지 못하면 신뢰할 수 없으니까. 더구나 딥 러닝 교실인 인터넷은 편견과 가짜뉴스 같은 유해 정보도 가득하다. 이 한계를 극복해 신경망 AI를 인간의 통제 범위 안에 두려는 여러 시도가 진행 중이다. 판단 결과와 과정을 함께 제시토록 하는 ‘설명 가능 AI’란 개념이 등장했고(메타는 ‘Explainable AI 개발팀’을 두고 있다), 각 분야 전문가를 동원해 AI가 유해 정보를 걸러내도록 보충학습도 시킨다(AI 람다가 의식을 가졌다고 주장했던 구글 직원도 이를 위해 고용된 윤리학자였다).
빅테크 기업들이 오픈AI(챗GPT 개발사)에 일격을 당하며 인공지능 주도권을 빼앗긴 이유가 이것이었다. 그들은 매우 조심스러워했다. 투명성과 안전성이 담보되지 않은, 인간이 100% 통제할 수 없는 AI를 시장에 내놨다가 문제가 터질 경우 잃을 게 너무 많았다(서둘러 공개한 ‘바드’의 말실수로 구글 주가가 폭락한 것처럼). 반면 신생업체 오픈AI는 밑져야 본전이고 잘되면 천문학적 자금을 끌어 모을 수 있으니 미완인 챗GPT의 대중화에 전격 나섰는데, 이것이 AI 개발 판도를 바꿔버렸다.
챗GPT가 폭발적 관심을 끌자 신중했던 빅테크들이 앞 다퉈 AI 상품화에 뛰어들고 있다. 갑자기 달아오른 경쟁은 속도전을 불렀고, 투명성 신뢰성 안전성 같은 키워드를 뒷전에 밀어냈다. 문명의 게임체인저란 기술이 인간의 통제를 벗어난 채 시장에 쏟아지려 한다. 규제는 시작도 안 됐는데, AI의 고삐가 풀렸다.
.................................................................................................................
httpsnews.kmib.co.krarticleview.asparcid=0924287682&code=11171394&cp=nv
2024.2.
사람보다 똑똑한 AI… 빠르면 내년에도 나온다
모든 분야 적용할 수 있는 범용 AI… 스스로 부족한 점 찾아 학습
“이전과 비교할 수 없이 성능 향상… 사회·정치·제도적 논의 있을 것”
양준규 기자
2024-02-28
인공지능(AI) 기술의 발전 속도가 예상보다 빨라지면서 1~2년 이내에 스스로 학습하는 범용 AI가 나올 수 있다는 전망이 나오고 있다. AI 전문가들에게 문의한 결과 AI가 없으면 업무나 생활에 문제가 생기거나 인공지능이 인간을 대체하는 등 상상의 영역에 도달할 수도 있다는 의견을 들을 수 있었다.
스페인 바르셀로나에서 26일부터 29일까지 진행되는 세계 최고의 모바일 전시회 MWC24에서 일반인공지능(AGI)이 화두로 떠올랐다.
28일 관련 업계 등에 따르면 데미스 하사비스 구글 딥마인드 CEO는 26일 MWC24 기조 강연에서 “AGI가 상상했던 것보다 훨씬 더 확장 가능하고 강력한 것으로 확인됐다”며 “지금 우리는 이전에는 할 수 없다고 생각했던 매우 중요하고 인상적인 일들을 AI가 할 수 있다는 것을 지금 보고 있다”고 강조했다.
하사비스 CEO는 지난해 MWC23에서 10년 안에 AGI가 출현할 수 있다는 예상을 내놓은 바 있다. 그러나 최근 빅테크 기업들의 AI 발전 속도가 빨라지면서 1~2년 내에 AGI 상용화가 가능할 것이라는 전망도 나오고 있다.
AGI란 범용적 용도에서 사용할 수 있는 인공지능을 의미한다. 챗GPT 또한 AGI로 분류할 수 있다. MWC에서 강조하는 AGI의 특징은 인간이 학습시키는 데이터뿐만이 아니라 스스로 학습이 가능하다는 것이다.
현재 공개된 AI의 경우 범용 AI와 특수 목적 서비스의 차이가 크다. 알파고와 같이 바둑에 특화된 AI는 구글 AGI 분류 체계 기준 4단계로 세계 최고 수준의 인간과 경쟁하는 이길 수도 있다. 반면에 챗GPT와 같은 범용 목적 서비스는 숙련되지 않은 성인 수준을 의미하는 1단계에 머무르고 있다.
하지만 본격적인 AGI 시대가 도래하면 AI가 스스로 필요한 분야를 판단해 학습할 수 있게 되므로 비약적인 성능 발전이 이뤄지게 된다.
전문가들은 AGI가 상용화될 경우 우리가 아는 AI보다 몇 배는 더 강력한 AI가 등장할 것이라고 전망했다. 다만 AI 기술의 발전 외의 변수가 있어 속단할 수는 없다는 의견도 나왔다.
이지향 상명대 AI 인증센터장은 “AGI가 상용화되면 사람이 공부하는 것처럼 자신이 무엇을 알고 무엇을 모르는지 인지하고 무엇을 공부할지 스스로 설정할 수 있게 된다”며 “인공지능이 어디까지 발전할지 확신하기 어려워서 조심스럽게는 기술적 특이점까지 바라볼 수 있다”고 말했다.
...................................................................................................................................................
https://www.skyedaily.com/news/news_view.html?ID=222957
2024.3. IQ 101 '클로드 3' 4년 뒤 인간 지능 넘을 것
[ ..... '클로드 3'가 멘사의 IQ 테스트 결과 101을 기록 .......
4~10년 뒤에는 AI가 인간 지능을 모두 뛰어넘을 것 ....... ]
AI타임스
클로드 3, AI 첫 IQ 100 돌파.. 4년 뒤 인간 지능 넘을 것
임대준 기자
2024.03.11
앤트로픽의 최신 대형언어모델(LLM) '클로드 3'가 멘사의 IQ 테스트 결과 101을 기록한 것으로 알려졌다. 이는 인공지능(AI) 모델 중 최고이자 첫 100점 돌파 기록으로, '챗GPT'의 85를 앞지른 결과다.
리포터이자 TV 프로듀서, 기술 블로그 운영자인 맥심 토르는 최근 멘사의 IQ 테스트 측정 테스트를 통해 잘 알려진 LLM 11종을 테스트한 결과, 클로드 3가 최고점을 받았다고 소개했다.
이에 따르면 로트는 AI 모델이 도형 등을 읽는 데 문제가 있다는 점을 감안, 테스트 문항 35개를 모두 말로 설명하는 형태로 변환해 테스트를 진행했다. 즉 시각장애인이 설명만 듣고도 문제를 정확하게 그려낼 정도의 수준으로 풀이했다는 설명이다.
LLM의 대답이 번번이 달라진다는 점도 감안, 정확도를 높이기 위해 2번씩 테스트를 진행했다고 전했다.
그 결과 GPT-4는 35개 질문 중 평균 13번 정답을 맞혔고, IQ 추정치는 85인 것으로 나타났다.
또 클로드 3는 101점으로, 앤트로픽이 GPT-4 성능과 동급이거나 일부에서는 더 앞선다고 밝힌 바와 같은 결과가 나왔다고 전했다.
멘사 테스트에서는 85점 미만의 점수를 표시하지 않지만, 무작위 추측이 63.5점이며 질문당 3점 정도의 가산이 있다는 것을 감안해 전체 모델의 IQ 추정치를 계산했다.
클로드 3와 GPT-4에 이어 3위(IQ 82)를 차지한 것은 의외로 '클로드 2'였다. GPT-4 기반의 코파일럿이 4위(IQ 79)였으며, 구글이 자랑했던 '제미나이 프로'는 IQ 77.5로 5위에 그쳤다. 더 뛰어난 성능이라는 '제미나이 울트라'는 그보다 뒤진 6위(IQ 76)였다.
일론 머스크가 오픈AI를 따라잡겠다며 출시한 '그록'은 7위(IQ 68.5), 오픈 소스 모델인 메타의 '라마 2'가 IQ 67로 뒤를 이었다.
토르는 이 순위를 매긴 것은 정확한 방법이 아닐 수 있지만, 무척 매력적이기 때문이라며 가장 생산적인 AI가 무엇인지 파악하는 것은 물론, AI의 실존적 위험에 대해 생각할 단서를 제공한다라고 말했다.
그는 ▲IQ 64를 기록한 첫 클로드 버전은 2023년 3월1일 출시됐으며 ▲IQ 82인 클로드 2는 2023년 7월(제작기간 4개월) ▲IQ 101인 클로드 3는 2024년 3월 출시(제작기간 8개월)됐다는 점에 주목했다.
그동안 추이를 단순 적용하면 후속 모델인 '클로드 4'는 12~16개월 안에 출시, 멘사 테스트에서 25개를 맞춰 IQ 120을 기록할 것으로 봤다. 이후 16~32개월 후에는 '클로드 5'가 IQ 140을, 또 20~64개월이 지난 뒤 등장할 '클로드 6'는 멘사 테스트 모든 문제를 맞히는 등 거의 모든 인간보다 똑똑해질 것으로 봤다.
즉 4~10년 뒤에는 AI가 인간 지능을 모두 뛰어넘을 것이라는 예측이다.
로트는 물론 AI가 규제나 에너지 문제 등으로 발전이 중단될 수도 있지만, 과거 반도체를 지배했던 '무어의 법칙'과 같이 당분간 AI의 발전을 반영할 수도 있다고 봤다.
이 내용은 지난주 클로드 3가 자신을 테스트한다는 것을 알아차렸다는 소식과 겹쳐, 인공일반지능(AGI)에 대한 많은 논쟁을 유발했다.
...........................................................................................................
그러나 이번 IQ 테스트에서 시사된 점 중 많은 전문가 의견과 일치하는 것도 있다.
이는 AGI가 만약 등장한다면, 그 시기를 빠르면 4~5년 뒤 정도로 본다는 점이다. 가장 최근에는 젠슨 황 엔비디아 CEO가 지난 주말 5년 내로 AGI가 등장할 것으로 예측했다.
https://www.aitimes.com/news/articleView.html?idxno=157856
