SPRi Brain
이해수
AI정책연구실
이해수선임연구원
031-739-7333
연구성과물
  • 목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미국 상무부, AI 칩과 모델의 수출 통제를 전 세계로 확대하는 규정 발표 ▹ 바이든 전 미국 대통령, AI 인프라 구축 가속화 행정명령에 서명 ▹ 미국 트럼프 대통령, AI 인프라 프로젝트 및 AI 행정명령 발표 ▹ 미국 AI안전연구소, 기반모델 오용 위험관리 지침 2차 초안 발간 ▹ 영국 과학혁신기술부, AI 경쟁력 강화를 위한 AI 기회 행동계획 발표 2. 기업/산업 ▹ MIT 테크놀로지 리뷰, 2025년 AI 트렌드 전망 ▹ 엔비디아, CEO 2025에서 피지컬 AI 시대 예고하며 AI 신제품 대거 공개 ▹ 오픈AI, 트럼프 행정부를 위한 AI 정책 청사진 발표 ▹ 오픈AI, 생명공학 스타트업과 협력해 수명 연장 목표 연구를 위한 AI 모델 개발 ▹ 딥시크, 오픈AI o1과 비슷한 성능의 추론형 AI 모델 ‘R1’ 공개 ▹ 딥시크 R1 출시로 인한 AI 시장의 충격과 함께 보안 우려도 대두 ▹ 지상파 방송 3사, 네이버에 뉴스데이터 저작권 침해 소송 제기 3. 기술/연구 ▹ 니케이 분석 결과, 세계 3대 AI 학회 채택 논문 저자 수에서 중국과 미국의 격차 감소 ▹ AMD와 존스 홉킨스大 연구진, 과학 연구를 자율 수행하는 에이전트 개발 ▹ 사카나 AI, 자체 적응형 머신러닝 프레임워크 ‘트랜스포머2’ 개발 ▹ 구글 연구진, 효율적 메모리 사용을 위한 ‘타이탄’ 아키텍처 개발 4. 인력/교육 ▹ 세계경제포럼, 2030년까지 AI의 영향으로 일자리 시장 급변 예상 ▹ IBM 설문조사 결과, IT 의사결정권자의 85%가 AI 전략에서 성과 달성 ▹ 민주주의기술센터 조사 결과, 미국 교육 현장에서 생성 AI 활용 급증 ▹ 딜로이트, 아시아 태평양 지역 AI 거버넌스 조사 결과 발표 Ⅱ. 주요 행사 ▹ICLR 2025 ▹ICRA 2025 ▹AI & Big Data EXPO (North America)

  • 본 연구에서는 그간의 미국의 인공지능(AI) 안전·신뢰성 정책 흐름을 살펴보고, 트럼프 2.0 시대에 AI 기술의 안전·신뢰성 확보하기 위한 정책 흐름이 어떻게 이어질지 예측하고자 하였다. 분석 결과, 미국은 오바마 행정부부터 트럼프 1기 행정부, 바이든 행정부에 걸쳐 AI 기술을 국가 안보와 직결된 전략 기술로서 인식하고 관련 정책을 수립·추진해왔다. 오바마 행정부에서는 AI가 안보와 글로벌 리더십 확보에 중요한 전략 과제임을 인식하고 안전한 AI 시스템을 보장하기 위한 연구 개발 계획 및 지침을 수립하였고, 트럼프 1기 행정부는 자국의 AI 리더십 확보를 위한 연구 강화와 혁신 투자, 그리고 신뢰할 수 있는 AI 개발 및 보급을 지시하였다. 바이든 행정부에서는 연방정부 차원에서 안전하고 신뢰할 수 있는 AI 혁신에 관한 행정명령을 발동하였다. 공통적으로 AI 개발 및 보급에서 세계를 선도함과 동시에 안전성과 신뢰성을 강화할 수 있는 정책을 마련하는 데 초점을 맞추고 있다. AI의 안전·신뢰성 확보 정책은 국가적으로 일관된 정책 흐름이며, 오히려 국가 안보와 미국 우선주의를 강조하는 트럼프2.0 시대에서는 더욱 강화될 수 있을 것으로 전망된다. Executive Summary This study examines the trajectory of U.S. Policy for Implementing Trustworthiness artificial intelligence (AI) safety and reliability policies and seeks to predict how these policies may evolve Trump 2.0 era. The analysis reveals that since the Obama administration through the first Trump administration, the United States recognized AI as a strategic technology closely tied to national security, developing and implementing policies to support its advancement. The Obama administration acknowledged AI as a critical strategic task for national security and global leadership, establishing research and development plans and guidelines to ensure safe AI systems. The first Trump administration emphasized strengthening U.S. AI leadership by enhancing research, investing in innovation, and directing the development and deployment of trustworthy AI. The Biden administration issued executive orders at the federal level to advance trustworthy AI innovation. All administrations have consistently focused on leading global AI development and deployment while simultaneously reinforcing trustworthiness. Policies to ensure AI trustworthiness thus reflect a unified national strategy. Furthermore, with the Trump 2.0 era’s emphasis on national security and an “America First” agenda, these policies are anticipated to be further strengthened.

  • 목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ EU 공동연구센터, 공공 부문의 AI 역량 및 거버넌스에 관한 보고서 발간 ▹ 유럽평의회, AI 시스템의 위험과 영향력 평가 방법론 채택 ▹ 영국 정부, 사이버 안보 위협에 대응한 AI안보연구소 신설 계획 발표 ▹ 그리스 AI 고위자문위원회, 국가 AI 정책 제안서 발표 2. 기업/산업 ▹ 아마존, 자체 개발 생성 AI 모델과 AI 신기능 대거 공개 ▹ 오픈AI, ‘챗GPT 프로’ 및 동영상 생성 AI ‘소라’ 출시 ▹ 구글, 제미나이 2.0 플래시 출시와 함께 AI 에이전트 3종 공개 ▹ 마이크로소프트, 코파일럿 신기능과 AI 에이전트 공개 ▹ 퍼플렉시티, 유료 사용자 대상 AI 검색에 쇼핑 기능 도입 ▹ 앨런AI연구소, 완전 개방형 소형 언어모델 ‘올모 2’ 공개 ▹ LG AI연구원, 엑사원 3.5 기반모델 3종 오픈소스로 공개 ▹ 엔비디아, 텍스트-오디오 생성 AI 모델 ‘푸가토’ 발표 3. 기술/연구 ▹ 스탠포드大 인간중심AI연구소, 글로벌 AI 활동성 도구 공개 ▹ ML커먼스, AI 안전성 평가 벤치마크 ‘AI루미네이트’ 발표 ▹ 구글 딥마인드, 3D 가상 세계 생성하는 AI 모델 ‘지니 2’ 개발 ▹ 알리바바, 추론 AI 모델 ‘마르코-o1’ 공개 4. 인력/교육 ▹ OECD, 생성 AI를 활용한 노동시장 과제 해결을 모색한 보고서 발간 ▹ 리눅스 재단 AI 도입 현황 조사 결과, 생성 AI 인프라의 평균 41%가 오픈소스로 확인 ▹ 세계경제포럼, 인재 부족 문제에 대응한 AI 교육 형평성 강조 ▹ 마이크로소프트, AI 도입 기업들의 5대 트렌드 발표 Ⅱ. 주요 행사 ▹World Economic Forum ▹CES ▹AAAI-25
    • 2024.12.10
    • 2518

    목차 Table of Contents 1. AI 에이전트(AI Agent)의 도입 및 부상 2. AI 에이전트 주요 사례 3. AI 에이전트 관련 이슈 및 전망 4. 참고 문헌

  • 목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미국 백악관, AI 기술 활용에 관한 최초의 국가안보 각서 발표 ▹ 미국 재무부, AI를 포함한 첨단기술에 대한 對중국 투자 제한 행정규칙 발표 ▹ 호주 국가AI센터, 기업의 AI 영향 평가를 지원하는 프레임워크 발표 ▹ OECD, 기업 간 AI 격차 증대에 포용적 디지털 혁신 강조하는 정책 브리프 발간 ▹ 국제 AI안전연구소 네트워크 출범 및 국내 AI안전연구소 설립 ▹ 캐나다, 혁신과학경제부 산하에 AI안전연구소 설립 2. 기업/산업 ▹ 오픈AI, 챗GPT에 실시간 검색 기능 추가해 유료 사용자에 우선 공개 ▹ 오픈AI, 슈퍼얼라인먼트 팀에 이어 범용 AI 대비팀도 해체 ▹ 앤스로픽, ‘클로드 3.5 소네트’ 업데이트로 AI 에이전트 기능 추가 ▹ 메타와 엔스로픽, 미국 정부 기관에 군사·안보 목적의 AI 모델 제공 ▹ 오픈AI, 브로드컴 및 TSMC와 제휴해 자체 AI 칩 개발 추진 ▹ 가트너, 2027년까지 AI 데이터센터의 40%가 전력 부족을 겪을 것으로 예측 3. 기술/연구 ▹ 가트너, 2025년 10대 전략 기술 트렌드 예측 ▹ 오픈소스 이니셔티브, 오픈소스 AI의 정의 발표 ▹ 구글 딥마인드, 인간의 이중 사고방식 적용한 AI 에이전트 시스템 연구 결과 발표 ▹ 텐센트, 오픈소스 최대 규모 MoE 모델 ‘훈위안-라지’ 공개 ▹ AI 기업들, 사전 훈련을 통한 LLM 성능 한계에 추론 연구에 주목 4. 인력/교육 ▹ 포레스터의 2025년 AI 예측, AI에 대한 투자 조정 불가피 ▹ 세일즈포스, 소비자의 기업 신뢰도와 AI 에이전트 인식 조사 결과 발표 ▹ 중국 베이징市 정부, 교육 분야의 AI 응용 활성화 지침 발표 Ⅱ. 주요 행사 ▹CES 2025 ▹AI & Big Data Expo Global 2025 ▹AAAI 2025
  • 목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미국 민권위원회, 연방정부의 얼굴인식 기술 사용에 따른 민권 영향 분석 ▹ 미국 백악관 예산관리국, 정부의 책임 있는 AI 조달을 위한 지침 발표 ▹ 유로폴, 법 집행에서 AI의 이점과 과제를 다룬 보고서 발간 ▹ OECD, 공공 부문의 AI 도입을 위한 G7 툴킷 발표 ▹ 세계경제포럼, 생성AI 시대의 거버넌스 프레임워크 제시 2. 기업/산업 ▹ CB인사이츠 분석 결과, 2024년 3분기 벤처 투자 31%가 AI 스타트업에 집중 ▹ 메타, 동영상 생성AI 도구 ‘메타 무비 젠’ 공개 ▹ 메타, 이미지와 텍스트 처리하는 첫 멀티모달 AI 모델 ‘라마 3.2’ 공개 ▹ 앨런AI연구소, 벤치마크 평가에서 GPT-4o 능가하는 성능의 오픈소스 LLM ‘몰모’ 공개 ▹ 미스트랄AI, 온디바이스용 AI 모델 ‘레 미니스트로’ 공개 ▹ 카카오, 통합 AI 브랜드 겸 신규 AI 서비스 ‘카나나’ 공개 3. 기술/연구 ▹ 2024년 노벨 물리학상과 화학상, AI 관련 연구자들이 수상 ▹ 미국 국무부, AI 연구에서 국제협력을 위한 ‘글로벌 AI 연구 의제’ 발표 ▹ 일본 AI안전연구소, AI 안전성에 대한 평가 관점 가이드 발간 ▹ 구글 딥마인드, 반도체 칩 레이아웃 설계하는 AI 모델 ‘알파칩’ 발표 ▹ AI21 CEO, AI 에이전트에 트랜스포머 아키텍처의 대안 필요성 강조 4. 인력/교육 ▹ MIT 산업성과센터, 근로자 관점에서 자동화 기술의 영향 조사 ▹ 다이스 조사, AI 전문가의 73%는 2025년 중 이직 고려 ▹ 가트너 예측, AI로 인해 엔지니어링 인력의 80%가 역량 향상 필요 ▹ 인디드 조사 결과, 생성AI가 인간 근로자 대체할 가능성은 희박 Ⅱ. 주요 행사 ▹NeurIPS 2024 ▹GenAI Summit Maroc 2024 ▹AI Summit Seoul 2024

    • 2024.10.07
    • 1060

    목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미·영·EU, 법적 구속력 갖춘 유럽평의회의 AI 국제조약에 서명 ▹ 미국 캘리포니아 주지사, AI 규제법안 「SB1047」에 거부권 행사 ▹ 호주 의회, 동의 없는 딥페이크 음란물 공유를 처벌하는 법안 통과 ▹ UN, ‘인류를 위한 AI 거버넌스’ 최종 보고서 발표 2. 기업/산업 ▹ 앤스로픽과 오픈AI, 미국 AI 안전연구소와 모델 평가 합의 ▹ 오픈AI, 추론에 특화된 AI 모델 ‘o1-프리뷰’ 출시 ▹ 메타의 AI 모델 ‘라마’, 다운로드 수 3억 5천만 회 달성하며 활발한 생태계 형성 ▹ 구글, AI 신기능 ‘젬스’와 이미지 생성 모델 ‘이마젠 3’ 출시 ▹ 구글, C2PA 표준 적용으로 AI 생성물의 투명성 향상 추진 ▹ 마이크로소프트, 오픈소스 소형 언어모델 ‘파이 3.5’ 공개 ▹ 하이퍼라이트, 오류를 자체 수정하는 ‘리플렉션 70B’ 오픈소스 모델 공개 3. 기술/연구 ▹ 영국 옥스퍼드大 연구 결과, 글로벌 AI 칩 분포의 양극화 현상 심각 ▹ 메타, LLM의 품질과 정확성을 평가하는 ‘자가학습 평가자’ 개발 ▹ 코히어 연구, LLM 사전학습에 코드 데이터 포함 학습시 LLM의 성능 향상 확인 ▹ 중국 연구진, 재판 시뮬레이션으로 LLM의 법률 역량 향상하는 기법 개발 ▹ AI 연구자들, 벤치마크 ‘챗봇 아레나’의 편향과 투명성 부족 지적 4. 인력/교육 ▹ 영국 정부, AI 교육기업 대상 ‘콘텐츠 스토어’ 프로젝트 발표 ▹ 유고브 조사 결과, 미국 근로자들 AI의 일자리 영향에 엇갈린 의견 표시 ▹ IBM 기업가치연구소, ‘생성 AI 시대 인적 잠재력 재해석’ 보고서 발간 ▹ 서비스나우, AI 도입으로 영국에서 61만 개 일자리 창출 전망 Ⅱ. 주요 행사 ▹Cypher 2024 21 ▹AI World Congress 2024 21 ▹ML and AI Model Development and Governance 21

    • 2024.09.04
    • 2648

    목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미·영·EU, 생성 AI의 공정한 경쟁환경 조성을 위한 공동 성명 발표 ▹ 미국 통신정보관리청, 오픈소스 기반모델의 위험에 대한 모니터링 촉구 ▹ 중국 베이징市, AI 플러스 행동계획(2024~2025) 발표 ▹ 독일 연방정보기술보안청, AI 시스템의 투명성에 관한 백서 발간 2. 기업/산업 ▹ 오픈AI, AI 기반 검색엔진 ‘서치GPT’ 프로토타입 공개 ▹ 메타, 폐쇄형 첨단 AI 모델과 대등한 성능의 오픈소스 모델 ‘라마 3.1’ 공개 ▹ 구글, 소형 오픈소스 모델 ‘젬마2 2B’ 공개 ▹ 메타와 구글, 환각과 딥페이크 등 AI 이슈 대응 ▹ 피규어AI, 최신 휴머노이드 로봇 ‘피규어 02’ 공개 ▹ xAI, ‘그록-2’ 출시 이후 이미지 생성 논란 확산 3. 기술/연구 ▹ 미국 국가과학기술위원회, 2020년~2024년 AI R&D 경과보고서 발간 ▹ 구글 딥마인드, 생성 AI의 오용 현황 분석 ▹ 애플, 애플 인텔리전스의 기반모델 개발 프로세스 공개 ▹ 네이처, AI 생성 데이터로만 학습한 AI 모델의 붕괴 위험 증가 경고 논문 게재 ▹ 영국 에이다 러브레이스 연구소, AI 안전성 평가의 개선 필요성 제기 ▹ 사카나 AI, 과학 연구를 자동화하는 ‘AI 사이언티스트’ 개발 4. 인력/교육 ▹ 유네스코, 교육에서 생성 AI의 기회와 위험 분석 ▹ 세계경제포럼 4차산업혁명센터, AI로 인한 기술 실업 가능성이 희박하다고 전망 ▹ AI 기반 ICT 인력 컨소시엄, ICT 일자리의 92%에 AI의 영향 예측 ▹ 오픈AI, 챗GPT 부정행위 탐지 도구 개발 후 공개 유보 Ⅱ. 주요 행사 ▹Generative AI World 2024 ▹AI Expo Europe ▹Big Data & AI World

    • 2024.08.13
    • 1565

    목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 국제통화기금(IMF), 세계 AI 준비 현황지도 공개 ▹ OECD, AI 분야의 데이터 거버넌스와 개인정보보호 협력 연구 ▹ 글로벌 AI 파트너십(GPAI), OECD-GPAI 통합 운영에 합의 ▹ 과학기술정보통신부, AI 분야 규제샌드박스 과제 적극 발굴 추진 ▹ 프랑스 경쟁관리국, 생성 AI 분야의 경쟁 활성화를 위한 권고사항 제시 ▹ 중국 정부, AI 표준화 체계 구축 지침 발표 ▹ 대만 국가과학기술위원회, AI 기본법 초안 발표 2. 기업/산업 ▹ EU 경쟁 당국, 구글-삼성 AI 협업에 반독점 조사 검토 ▹ 2024년 상반기 유럽 생성 AI 스타트업 투자 규모 19억 유로 ▹ 구글, 제미나이 1.5 플래시 및 오픈소스 모델 젬마 2 정식 출시 ▹ 오픈AI, 비용 효율적인 소형 AI 모델 ‘GPT-4o 미니’ 출시 ▹ 바이두, 최신 AI 모델 ‘어니 4.0 터보’ 공개 ▹ 중국 상하이市 법학회, 세계인공지능대회에서 휴머노이드 로봇 거버넌스 지침 발표 ▹ LG AI연구원, 오픈소스 AI 모델 ‘엑사원(EXAONE) 3.0’ 공개 3. 기술/연구 ▹ 세계경제포럼, 과학적 발견을 위한 AI 등 10대 신흥기술 선정 ▹ ETRI, 데이터 분석 및 머신러닝을 위한 데이터 품질 국제표준 제정 ▹ 구글 딥마인드, 제미나이를 활용한 자연어 기반 로봇 학습 연구 결과 공개 4. 인력/교육 ▹ SAS 조사, 생성 AI 사용은 중국이 가장 앞서나 성숙도는 미국이 우위 Ⅱ. 주요 행사 ▹ECCV 2024 ▹World Summit AI ▹AI WORLD 2024