SPRi Brain
손효현
퇴사
손효현위촉연구원
연구성과물
  • 디지털 심화 사회에서 소프트웨어는 점점 더 중추적인 역할을 맡으며 산업 전반에 걸쳐 고부가가치를 창출하고 있다. 특히 모바일 컴퓨팅, 양자컴퓨터, 사물인터넷(IoT), 자율주행차, 빅데이터, 인공지능(AI), 로봇공학, 블록체인 등 4차 산업혁명의 핵심 영역에서 기술 발전을 가속화하는 중요한 요소로 자리 잡고 있다. 디지털 전환 가속은 디지털 사회의 복잡성과 의존성을 심화시키며 잠재적 위협이 되는 한편 디지털 기술을 활용한 안전 고도화의 기반으로도 자리매김한다. 소프트웨어 적용 확대로 인한 잠재적 위험 증가는 신체적 상해뿐만 아니라 사회적, 경제적 손실을 유발하는 사고로 이어질 수 있다. 이제 자연적·사회적 재난 사례의 증가뿐 아니라 디지털 공간에서의 안전 위협 사례가 빈번함에 따라, 소프트웨어 안전 확보는 주요 과제로 더욱 대두된다. 소프트웨어 안전은 외부 침해 없이 소프트웨어로 인해 발생할 수 있는 사고로부터 인간의 생명이나 신체에 대한 위험에 대비하는 상태를 의미한다. 이는 'Safety of Software'와 'Safety through Software' 두 가지 측면으로 좀 더 나누어 볼 수 있다. 'Safety of Software'은 소프트웨어 자체의 무결성을 보증하며, 사용자와 이용자에게 미칠 수 있는 위험으로부터 안전하게 보호하는 소프트웨어 설계를 포함한다. 즉, 소프트웨어로 인한 사고가 발생하지 않도록 소프트웨어 자체 품질 수준을 확보하는 것을 염두에 둔다. 'Safety through Software'은 소프트웨어 안전 기능을 중점으로 하여 발생 가능한 사고를 감소 및 예방하고, 비상 상황에 대응하는 것을 말한다. 이 보고서는 각각의 사례를 분석하여 소프트웨어 안전 관리 관점에서의 미비한 부분과 개선 방향을 조명하고, 추가적으로 보완해야 할 부분을 식별한다. 이를 통해 안전관리 프레임워크 차원에서 체계적으로 살펴 우리 정책의 개선 방안을 제시하고자 한다. Executive Summary In the digitally advanced society, software is becoming increasingly central, driving high-value creation across industries. It's particularly influential in accelerating technological advancements in key areas of the Fourth Industrial Revolution, such as mobile computing, quantum computing, the Internet of Things (IoT), autonomous vehicles, big data, artificial intelligence (AI), robotics, and blockchain. The acceleration of digital transformation deepens the complexity and dependence in digital society, posing potential threats while also serving as a foundation for enhanced safety through digital technology. The rise in natural and social disasters, along with frequent safety threats in digital spaces, has made securing digital safety for citizens a primary concern. The expansion of software applications increases potential risks, leading to accidents causing physical, social, and economic damages, necessitating preventive and management measures. Software safety refers to the state where there is sufficient preparation against risks to life or physical harm from accidents caused by software, in the absence of external breaches. This can be divided into two concepts. First, 'Safety of Software' ensures the integrity of software itself, maintaining the safety level to prevent accidents caused by the software. Recent examples include autonomous vehicles and smart factories, where embedded software must guarantee integrity and safeguard against potential risks. Software algorithm malfunctions and abnormal operations can lead to human casualties. Second, 'Safety through Software' focuses on utilizing software safety features to reduce and prevent potential accidents, and ensuring safety in emergency situations. This includes incidents where software errors in safety devices fail to prevent, and instead cause, major accidents. This report examines such cases to analyze shortcomings and directions for improvement in software safety management, identifying areas needing further enhancement. Through this, we aim to systematically examine our policy's improvements within the safety management framework.

  • 인공지능의 확산은 인공지능 윤리 및 신뢰성 이슈를 발생시키며 사회적 문제를 야기하였다. 이에 국내외 정부 및 기업, 국제 기관, 학계 등 전방위적으로 대응 정책을 마련중에 있다. 국내외 주요 정부와 국제 기관 등에서는 윤리적 인공지능 및 신뢰할 수 있는 인공지능 개발을 위한 권고안, 정책 보고서를 발간하고 있으며 주요 기업들 또한 신뢰할 수 있는 인공지능 개발을 위하여 기업 윤리 원칙 수립과 신뢰성 검증 도구 등의 개발을 촉진하고 있는 상황이다. 국내 또한 인공지능 신뢰성 확보를 위해 신뢰할 만한 인공지능 실현 전략 등을 추진하고 있다. 이렇듯 시의성 있는 정책 대응 방안 마련이 필요한 시점에서 인공지능 신뢰성 확보를 위한 국내외 정책 동향을 조사하고 분석하여 국내 인공지능 정책 고도화를 위한 시사점을 제공하고자 한다. (후략)

  • 최근 ChatGPT의 등장은 산업 및 사회적으로 큰 파급력을 보이고 있다. 공개 두 달 만에 월 1억 명이 넘는 사용자 수를 확보했다. ChatGPT는 기존 GPT시리즈의 최신 버전으로 1,750억 개의 파라미터를 갖추고 문서요약, 프로그래밍, 보고서 작성 등 사람 수준의 결과를 생성하는 대화형 언어모델이다. 애초 자연어처리를 목적으로 하는 언어모델이 점차 발전하여 초거대 인공지능(AI)이 되고, 이제 범용성까지 갖추는 상황에 도달했다. 글로벌 주요 기업들은 이 초거대 AI 시장을 선점하기 위해 다방면으로 각축전을 벌이고 있다. 한편, 오늘날의 초거대 AI는 분명 기술적 혁신을 이룩했지만, 여전히 많은 과제를 안고 있다. 이 보고서에서는 ChatGPT를 중심으로 대규모 언어모델의 기술적 변화양상과 특징, 활용성, 한계점 등을 짚어보고, 산업 및 사회적 영향력과 향후 방향을 논의해보고자 한다. Executive Summary The recent appearance of ChatGPT is showing a great ripple effect on the industry and society. Within two months of its release, it has attracted over 100 million monthly users. ChatGPT is the latest version of the existing GPT series, an interactive language model with 175 billion parameters that generates human-level results such as document summarization, programming, and report writing. Originally designed for natural language processing, the language model has gradually evolved to become a hyper-scale artificial intelligence(AI) and has now reached the point of universality. Major global companies are competing to dominate this market. Meanwhile, while today's hyper-scale AI is certainly a technological breakthrough, it still faces many challenges. In this report, we will examine the technological changes, features, utility, and limitations of large-scale language models(LLMs), focusing on ChatGPT, and discuss their industrial and social impact and future directions.

    • 2023.02.10
    • 1780

    목차 Table of Contents 1. 국내외 정책 ㅇ 중국, 표기되지 않은 딥페이크 게시 금지에 관한 규정 발표 ㅇ 영국, 이산화탄소(CO2) 배출 저감을 위한 인공지능 프로그램 개시 ㅇ 크리에이티브커먼즈, 유럽연합이사회의 인공지능규제안 채택에 대한 입장 발표 2. 기업·시장 동향 ㅇ Google, ChatGPT 인공지능 인기에 대해 비상경계령(Code Red) 발동 ㅇ AI 기반 텍스트-이미지 생성 모델과 예술가와의 이해관계 논란 ㅇ NVIDIA, 금융 서비스 AI 사용 가속화를 위해 도이치은행과 파트너십 체결 ㅇ GMI 리서치, 2029년 블록체인 AI 시장 규모 2,113억 달러로 전망 3. 고용·인력 동향 ㅇ 정부, SW·AI 교육 위한 「디지털 새싹 캠프」 운영 ㅇ 디애틀랜틱紙, 생성AI 부상으로 예술 관련 직업의 AI 대체 가능성 우려 4. 기술·연구 동향 ㅇ 대규모 언어 모델(GPT-3)을 활용하여 말하는 것에서 치매 예측 ㅇ OpenAI, 3D 객체를 생성하는 POINT-E 공개 ㅇ OpenAI, 7만 시간 분량 마인크래프트 게임영상 성공적 훈련 발표

    • 2023.01.10
    • 2328

    목차 Table of Contents 1. 국내외 정책 ㅇ 美-EU 무역기술위원회(TTC), AI 로드맵 발표 ㅇ 美 로펌, EU의 AI 책임 지침의 소송 절차 인식 확산 노력 ㅇ 유엔환경계획(UNEP), 기후 문제 해결 및 대응을 위해 AI 활용 2. 기업·시장 동향 ㅇ 非유럽권의 글로벌 AI 시장 독점 심화 ㅇ 엔비디아와 마이크로소프트, AI 슈퍼컴퓨터 구축을 위해 협력 ㅇ 메타의 대규모 언어모델(LLM) 갤럭티카 사용 조기 종료 3. 고용·인력 동향 ㅇ 싱가포르, AI 인재 양성 및 유치에 5천만 달러 투자 ㅇ 美조지타운대학교, 중국의 AI 인력 수요 현황 분석 4. 기술·연구 동향 ㅇ 구글, 전 세계 1,000개 언어 지원 가능한 거대 AI 언어모델 개발 계획 ㅇ 영국, 구제금융에 관한 정부 결정을 지원하는 AI 도구 개발 ㅇ 허깅페이스(HuggingFace), AI 이미지 생성기의 편향성 탐색 도구 개발

    • 2022.12.02
    • 1840

    목차 Table of Contents 1. 국내외 정책 2. 기업·시장 동향 3. 고용·인력 동향 4. 기술·연구 동향

    • 2022.11.09
    • 2226
    목차 Table of Contents 1. 국내외 정책 2. 기업·시장 동향 3. 고용·인력 동향 4. 기술·연구 동향
    • 2022.10.18
    • 2138

    목차 Table of Contents 1. 국내외 정책 2. 기업·시장 동향 3. 고용·인력 동향 4. 기술·연구 동향

    • 2022.09.08
    • 1948

    목차 Table of Contents 1. 국내외 정책 2. 기업·시장 동향 3. 고용·인력 동향 4. 기술·연구 동향

    • 2022.08.10
    • 3061

    목차 Table of Contents 1. 국내외 정책 2. 기업·시장 동향 3. 고용·인력 동향 4. 기술동향

    • 2022.07.12
    • 2051

    목차 Table of Contents 1. 국내외 정책 2. 기업·시장 동향 3. 고용·인력 동향 4. 기술동향