SW안전 태그를 찾았습니다.
  • 본 보고서는 소프트웨어 정의 차량(SDV)과 자율주행 기술 확산에 따라, 자동차 안전의 중심이 기계적 하드웨어에서 소프트웨어 및 데이터로 급격히 이동하고 있다는 점에 주목한다. 특히 자율주행 및 첨단 운전자 보조 시스템(ADAS)의 상용화가 가속화되면서 전통적인 소프트웨어 기능안전 영역의 확대·재편성되고 있음을 확인한다. 연구는 대표적 자율주행 보조 시스템인 테슬라 오토파일럿(Autopilot) 을 핵심 사례로 삼아, 2019년 플로리다주의 정지 차량 충돌 사고와 이에 대한 2025년 플로리다 남부연방지방법원의 손해배상 판결(Barrett v. Tesla, Inc., Case No. 1:21-cv-21940-BB)을 분석하였다. 사고 당시 차량은 오토파일럿 모드로 주행 중이었으나 정지 차량을 인식하지 못했고, 자동긴급제동(AEB)이 작동하지 못한 상태에서 운전자의 부주의가 겹치며 제3자 보행자 사망 및 중상 피해가 발생하였다. 배심원단은 운전자 과실 67%, 테슬라 과실 33%를 인정하는 한편, 사고 데이터 미제출·은폐 의혹, 과장된 마케팅 등을 근거로 2억 달러의 징벌적 손해배상을 추가로 부과하였다. 이는 SAE 기준상 레벨 2(운전자 보조) 시스템에 대해서도 제조사가 예측 가능한 오사용 방지 의무와 정보 제공·데이터 투명성 의무 부담을 명시적으로 확인한 첫 사례라는 점에서 의미가 크다. 보고서는 오토파일럿 사고의 쟁점을 ISO 26262(기능안전), ISO 21448(SOTIF), ISO/PAS 8800(AI 안전) 등 국제 표준의 관점에서 해석한다. ISO 26262는 E/E 시스템 고장(Fault)을 전제로 안전무결성을 관리하는 반면, SOTIF는 센서 인식 한계·환경적 모호성·사용자 오용 등 결함 없는 상태에서도 발생하는 위험을 다루며, ISO/PAS 8800은 AI·ML 기반 알고리즘의 데이터 품질·모델 불확실성을 포괄하는 안전 프레임워크를 제시한다. 아울러 보고서는 UNECE R157(ALKS), R171(DCAS) 등 국제 규정도 함께 검토하였다. 결론적으로, 테슬라 오토파일럿 판결은 소프트웨어 안전이 더 이상 기술 내부의 “품질 이슈”가 아니라, 제조물 책임·징벌적 손해배상·데이터 투명성·AI 안전을 아우르는 종합적 리스크 관리 대상임을 보여준다. 생명·신체와 직결된 산업 전반에서 디지털 전환이 가속화될 때 최소 공통 SW 안전 요구사항으로서 「소프트웨어 안전에 관한 고시」와 같은 지침을 참고해야 할 것이며 나아가 Safety-Security 연계하는 ‘디지털 안전’ 차원의 거버넌스 검토 등을 시사점으로 제시한다. Executive Summary This report examines how the transition toward Software-Defined Vehicles (SDVs) and the growing adoption of autonomous driving and ADAS technologies are shifting automotive safety requirements from hardware-centered control to software- and data-driven risk management. As these systems expand in scope and complexity, software functional safety is being reorganized to address perception limits, human misuse, algorithmic uncertainty, and system-level interactions. The study analyzes Tesla’s Autopilot as a representative Level 2 driver-assistance system, focusing on the 2019 rear-end collision in Florida and the subsequent 2025 verdict by the U.S. District Court for the Southern District of Florida (Barrett v. Tesla, Inc., Case No. 1:21-cv-21940-BB). The Autopilot system failed to detect a stationary vehicle and the AEB did not activate, while the driver was momentarily inattentive, resulting in the death and injury of third-party pedestrians. The jury assigned 67% negligence to the driver and 33% to Tesla, and imposed punitive damages due to concerns regarding withheld crash data and misleading marketing. This case is significant as one of the first to affirm that even SAE Level 2 systems impose obligations on manufacturers regarding foreseeable misuse, adequate warnings, and operational transparency. The report interprets the case findings through international standards including ISO 26262 (Functional Safety), ISO 21448 (SOTIF), and ISO/PAS 8800 (AI Safety). ISO 26262 focuses on E/E system faults, SOTIF addresses risks that arise from functional insufficiencies without faults, and ISO/PAS 8800 extends safety management to AI/ML-based perception and decision models. The analysis also references relevant global regulations such as UNECE R157 (ALKS) and R171 (DCAS). Overall, the Autopilot verdict highlights that software safety has become a legal and regulatory issue linked to product liability, punitive damages, data transparency, and AI governance. As digital transformation accelerates in safety-critical sectors, it is essential to establish baseline software safety requirements?such as Korea’s “Guidelines for Assuring Software Safety” and to advance integrated Safety-Security governance frameworks that support emerging digital risks.

  • 최초의 산업혁명은 증기 기관과 철도를 통한 대규모 운송과 이동성의 변화에서 시작되었으며, 이는 생산과 무역 방식을 근본적으로 바꿔 기존의 산업·시장의 경쟁 및 성장 체계를 근간부터 재구성하였다. 이를 고려하면 최근 진행되는 4차 산업혁명에서도 운송과 이동성의 변화는 눈여겨 봐야하는 주요한 경쟁 요소로 파악할 수 있다. 실제로 SDV(Software Defined Vehicle, 소프트웨어 정의 차량)와 UAM(Urban Air Mobility, 도심 항공 모빌리티)은 4차 산업혁명의 대표적인 모빌리티 혁신 사례로, 물리적 이동 수단이 디지털로 제어되는 통합 기술이다. 그리고 그 파급력은 물리적 거리의 한계 극복에 그치지 않고 물리적 기술과 디지털 기술의 융합을 통해 산업의 경쟁 및 성장 체계를 재구성할 것으로 기대할 수 있다. 다만 SDV의 대표격인 자율주행차나 도심항공 모빌리티의 본격적인 상용화는 어려움을 겪고 있으며, 앞으로도 상당 기간 소요될 것으로 전망된다. 이에 '크롤-워크-런(Crawl-Walk-Run)'과 같은 접근법을 통해 산업의 단계적 발전을 차근히 밟으며 관련 이슈와 리스크를 최소화 하는 것이 필요할 수 있다. 그리고 본격적인 상용화로 이끄는 간극(캐즘)을 최소화하기 위해 가장 중요하게 고려할 수 있는 필수 요소 중의 하나가 안전 신뢰성의 향상이라고 할 수 있다. 특히 물리적 이동수단과 디지털 인프라가 결합되어 진행될 시스템에서는 서비스의 핵심이라고 볼 수 있는 소프트웨어의 안전 확보를 위한 노력도 병행되어야 할 것이다. 본 보고서는 이런 관점으로 SDV와 UAM 분야의 동향을 파악하며 모빌리티 산업의 안정적인 발전과 국내 산업의 성공적인 연착륙을 지원하고자 한다. Executive Summary The First Industrial Revolution began with transformative changes in large-scale transportation and mobility through the advent of steam engines and railroads. These innovations fundamentally altered methods of production and trade, reconstructing the competitive and growth structures of existing industries and markets from their very foundations. Considering this historical precedent, changes in transportation and mobility during the ongoing Fourth Industrial Revolution can be identified as critical competitive factors that warrant close attention. Indeed, Software-Defined Vehicles (SDVs) and Urban Air Mobility (UAM) are representative examples of mobility innovation in the Fourth Industrial Revolution. These technologies integrate physical means of transportation with digital control systems. Their impact is expected not only to overcome the limitations of physical distance but also to reconstruct industrial competitive and growth structures through the convergence of physical and digital technologies. However, the full-scale commercialization of autonomous vehicles which epitomize SDVs and urban air mobility is encountering significant challenges and is projected to require considerable time to materialize. Therefore, it may be necessary to minimize related issues and risks by methodically advancing through stages of industrial development, such as the "Crawl-Walk-Run" approach. One of the essential factors in bridging the chasm toward full commercialization is the enhancement of safety reliability. Particularly in systems where physical transportation means and digital infrastructure are integrated, concurrent efforts to ensure the safety of software which can be considered the core of the service are imperative. From this perspective, this report aims to understand the trends in the SDV and UAM sectors based on such analysis, thereby supporting the stable development of the mobility industry and facilitating the successful soft landing of the domestic industry.
  • 디지털 심화 사회에서 소프트웨어는 점점 더 중추적인 역할을 맡으며 산업 전반에 걸쳐 고부가가치를 창출하고 있다. 특히 모바일 컴퓨팅, 양자컴퓨터, 사물인터넷(IoT), 자율주행차, 빅데이터, 인공지능(AI), 로봇공학, 블록체인 등 4차 산업혁명의 핵심 영역에서 기술 발전을 가속화하는 중요한 요소로 자리 잡고 있다. 디지털 전환 가속은 디지털 사회의 복잡성과 의존성을 심화시키며 잠재적 위협이 되는 한편 디지털 기술을 활용한 안전 고도화의 기반으로도 자리매김한다. 소프트웨어 적용 확대로 인한 잠재적 위험 증가는 신체적 상해뿐만 아니라 사회적, 경제적 손실을 유발하는 사고로 이어질 수 있다. 이제 자연적·사회적 재난 사례의 증가뿐 아니라 디지털 공간에서의 안전 위협 사례가 빈번함에 따라, 소프트웨어 안전 확보는 주요 과제로 더욱 대두된다. 소프트웨어 안전은 외부 침해 없이 소프트웨어로 인해 발생할 수 있는 사고로부터 인간의 생명이나 신체에 대한 위험에 대비하는 상태를 의미한다. 이는 'Safety of Software'와 'Safety through Software' 두 가지 측면으로 좀 더 나누어 볼 수 있다. 'Safety of Software'은 소프트웨어 자체의 무결성을 보증하며, 사용자와 이용자에게 미칠 수 있는 위험으로부터 안전하게 보호하는 소프트웨어 설계를 포함한다. 즉, 소프트웨어로 인한 사고가 발생하지 않도록 소프트웨어 자체 품질 수준을 확보하는 것을 염두에 둔다. 'Safety through Software'은 소프트웨어 안전 기능을 중점으로 하여 발생 가능한 사고를 감소 및 예방하고, 비상 상황에 대응하는 것을 말한다. 이 보고서는 각각의 사례를 분석하여 소프트웨어 안전 관리 관점에서의 미비한 부분과 개선 방향을 조명하고, 추가적으로 보완해야 할 부분을 식별한다. 이를 통해 안전관리 프레임워크 차원에서 체계적으로 살펴 우리 정책의 개선 방안을 제시하고자 한다. Executive Summary In the digitally advanced society, software is becoming increasingly central, driving high-value creation across industries. It's particularly influential in accelerating technological advancements in key areas of the Fourth Industrial Revolution, such as mobile computing, quantum computing, the Internet of Things (IoT), autonomous vehicles, big data, artificial intelligence (AI), robotics, and blockchain. The acceleration of digital transformation deepens the complexity and dependence in digital society, posing potential threats while also serving as a foundation for enhanced safety through digital technology. The rise in natural and social disasters, along with frequent safety threats in digital spaces, has made securing digital safety for citizens a primary concern. The expansion of software applications increases potential risks, leading to accidents causing physical, social, and economic damages, necessitating preventive and management measures. Software safety refers to the state where there is sufficient preparation against risks to life or physical harm from accidents caused by software, in the absence of external breaches. This can be divided into two concepts. First, 'Safety of Software' ensures the integrity of software itself, maintaining the safety level to prevent accidents caused by the software. Recent examples include autonomous vehicles and smart factories, where embedded software must guarantee integrity and safeguard against potential risks. Software algorithm malfunctions and abnormal operations can lead to human casualties. Second, 'Safety through Software' focuses on utilizing software safety features to reduce and prevent potential accidents, and ensuring safety in emergency situations. This includes incidents where software errors in safety devices fail to prevent, and instead cause, major accidents. This report examines such cases to analyze shortcomings and directions for improvement in software safety management, identifying areas needing further enhancement. Through this, we aim to systematically examine our policy's improvements within the safety management framework.

  • 그간 SW 안전은 사람의 신체적, 물리적 피해를 유발할 수 있는 분야를 중심으로 발전해 왔다. 그러나 SW의 영향력은 급격하게 확장되고 있다. SW 신기술로 볼 수 있는 인공지능, 블록체인, 메타버스 등은 세상을 혁신시키는 핵심 기술로 부상하고 있으나, 그 이면에는 다양한 사건 사고가 존재한다. 이러한 사고는 비단 신체적, 물리적 피해를 넘어 정신적, 경제적 피해를 유발시키고 있다. (후략)

  • SW안전을 확보하는 것은 SW나 시스템을 개발 또는 운영하는 대상에게는 규제로 인식되어 왔다.(후략)

  • 자율자동차, 드론, AI 등 소프트웨어 기술 발전에 따라 소프트웨어의 복잡성이 증가하고 소프트웨어 편의성 증가로 많은 분야에서 소프트웨어 의존성이 증가하고 있다. 이로 인해 소프트웨어의 제어를 받는 시스템이 증가하게 되어서 소프트웨어 결함으로 인한 사고의 발생 확률이 증가하고 있다. 결국은 과거와 달리 소프트웨어 문제로 인해 발생하는 사고의 피해의 영향력도 같이 커지고 있기 때문에 소프트웨어 안전관리가 국민의 안전 확보에 (후략)

  • SW가 중심이 되는 제4차 산업혁명 시대가 빠르게 도래함 첨단 정보통신기술, 특히 SW 중심의 기술이 경제·사회 전반에 융합되면서 혁신적인 변화(例, SW가 핵심인 자율주행차, 스마트 빌딩, 무인항공기 등의 등장)가 일어나고 있음 이러한 혁신적인 변화를 제4차 산업혁명의 시대로 규정하고 있음(후략)

  • 본 연구의 목적은 2년간 변화된 국내 소프트웨어 안전 산업 동향을 조사하여 기존 연구와 비교·분석하여 핵심성공요소(CSF)를 도출하고, 최근 이슈화 되고 있는 주요 기술 중 소프트웨어 안전이 중요시 되고 있는 기술인 자율주행차, 드론에 대한 해외 주요국의 정책, 글로벌(후략)

  • SW가 중심이 되는 제4차 산업혁명 시대가 도래함, 첨단 정보통신기술, 특히 SW 중심의 기술이 경제·사회 전반에 융합 되면서 혁신적인 변화(例, SW가 핵심인 자율주행차, 스마트 빌딩, 무인항공기 등의 등장)가 일어나고 있음, 이러한 혁신적인 변화를 제4차 산업혁명의 시대로 규정하고 있음(후략)

    • 주제 : 제4차 산업혁명 시대에 무인화·자동화 기술의 위험 분석(Hazard Analysis)과 위험 평가(Risk Assessment) 기술 국제 동향 및 국내 자동차·항공 분야 산업 동향 소개 및 논의
    • 일시 : 2018년 11월 29일(목) 09:00~16:40
    • 주제 : 코엑스 그랜드볼룸 104호, 105호
    • 제4차 산업혁명 시대를 대비한 SW 안전 문화 확산을 위해 ① 개발 생명주기에서의 SW 안전 확보 방안 및 ② 안전중요(safety-critical) 분야에서의 SW 안전 동향 파악
    • 국내외 SW 안전 분야 전문가 강연을 통해 SW 안전에 대한 정보공유 및 인식제고
    • 일시 : 2017년 11월 23일 (목)
    • 장소 : 코엑스 컨퍼런스룸 327호 (서울시 강남구)
  • 오늘날 ICT 융합 시스템에서 소프트웨어가 차지하는 비중은 지속적으로 증가하고 있다. 이러한 상황에서 소프트웨어의 결함으로 인한 사고는 특히 사회, 경제적 피해가 막대할 가능성이 있는 만큼 소프트웨어의 기능적 안전성은 필수적인 요건으로 점차 부각되고 있다.

    • 2016.08.01
    • 13249

    원자력 발전의 역사와 안전 설계 원리를 소개하고, 원자력 발전소의 계측, 감시, 제어 등의 역할을 수행하는 원전계측시스템(MMIS)의 개념과 국산화 과정에 대해 소개함

  • 본 연구를 통해 소프트웨어 안전성 확보의 중요성을 인식하고, 시험, 평가, 인증체계의 개선을 통해, 단기적으로는 대상 소프트웨어 또는 시스템의 안전성을 제고함과 동시에 중기적으로는 국가 전반의 안전성을 확보할 수 있을 것으로 기대한다.
    또한 장기적으로는 고부가가치 산업으로서의 소프트웨어 안전 분야에서 기업의 경쟁력을 강화하여 글로벌 시장에서 제도적·기술적 선도적인 국가로서의 위상을 확보할 것으로 기대한다.

  • 2014년 4월에 발생했던 세월호 사고는 개인의 안전에 대한 우려와 관심 뿐만 아니라 국가 안전체계 전반에 대한 인식을 한층 강화하는 계기가 되었다. (후략)

    • 2015.12.09
    • 14101
    • SW 안전 분야 해외 석학 및 국내 산학연 전문가를 초청하여 SW 안전에 대한 강연을 통해 안전 관련 정보 공유 및 인식 제고 하였다.
    • 2015.07.24
    • 5821

    소프트웨어정책연구소는 소프트웨어 안전이라는 큰 주제로 다양한 연구를 수행하고 있습니다. 소프트웨어 안전 관련 다양한 주제 중 저는 오늘 소프트웨어 안전등급에 관련하여 얘기를 할까 합니다.

    소프트웨어 중심사회로 소프트웨어의 중요성이 높아지고 있습니다.
    소프트웨어 중심사회에서는 대부분의 국가 기반시설 및 대단위 산업분야에서 소프트웨어를 이용한 제어가 이루어지고 있습니다. 전통적으로 제조업의 대표 분야라고 여겨졌던 자동차 산업만 보더라도, 소프트웨어비중이 무려 50%를 넘어서고 있습니다.

    • 2015.06.09
    • 4505

    [embedyt alt="공공시스템 SW안전 컨설팅, 지속되어야 한다."]https://www.youtube.com/embed/rhkYGcBqo2w[/embedyt] SW중심사회는 SW의 광범위한 사용을 통해 삶의 질이 향상되고, SW가 개인, 기업 그리고 국가의 경쟁력이 되는 사회를 말한다. SW가 모든 산업의 기반기술이 될 뿐만 아니라, SW로 혁신이 일상적으로 일어나는 사회이며, SW기업이 성장을 주도하는 사회로 특징되기도 한다. 이러한 SW중심사회가 추구하는 바람직한 모습을 구현하기 위해서는 SW의 안전이 담보되어야 한다는 것이 핵심이라 할 수 있다. ... (후략)

    • 2015.03.20
    • 12607

    국민은 안전한 사회에서 살고 싶어 한다. 안전을 위한 소프트웨어, 또 소프트웨어의 안전에 정책 집중을 촉구한다. 비용이 들어간다면 이를 국민에게 설득해야 할 것이다. 안전은 공짜로 얻어지지 않는다.