Публікація: Проблеми визначення відповідальності в системах автономної робототехніки
Завантаження...
Дата
Автори
Назва журналу
ISSN журналу
Назва тому
Видавець
ХНУРЕ
Анотація
У статті розглядаються технічні проблеми, пов'язані з функціонуванням автономних роботизованих систем, зокрема питання відповідальності за їхні дії в умовах непрозорості алгоритмів штучного інтелекту. Проведено порівняльний аналіз традиційних детермінованих механізмів та сучасних систем на основі нейромереж, використано аналогію «радіокерована машинка – службовий собака». Проаналізовано феномен «чорної скриньки» як центральну технічну проблему, що унеможливлює пряме трасування причинно-наслідкових зв'язків між вхідними даними та вихідними діями. Висвітлено три підходи до розподілу відповідальності за інциденти: покладання на розробника (виробника), на користувача (власника) та концепція «електронної особи» як окремого суб'єкта. Розглянуто проблему вбудовування моральних алгоритмів у системи керування безпілотних транспортних засобів на прикладі «дилеми вагонетки».
Опис
The article examines technical problems associated with the functioning of autonomous robotic systems, in particular the issue of responsibility for their actions under conditions of opacity of artificial intelligence algorithms. A comparative analysis of traditional deterministic mechanisms and modern neural network-based systems is conducted, using the analogy of a «radio-controlled car versus a service dog». The phenomenon of the «black box» is analyzed as a central technical problem that prevents direct tracing of cause-and-effect relationships between input data and output actions. Three approaches to the distribution of responsibility for incidents are highlighted: assigning responsibility to the developer (manufacturer), to the user (owner), and the concept of an «electronic person» as a separate legal entity. The problem of embedding moral algorithms into unmanned vehicle control systems is considered using the example of the «trolley dilemma».
Ключові слова
проблеми відповідальності, автономні роботизовані системи, «чорна скринька», problems of determining, autonomous robotic systems, artificial intelligence
Цитування
Мельніков С. В. Проблеми визначення відповідальності в системах автономної робототехніки // Автоматизація та Приладобудування («Automation and Development of Electronic Devices» АDED-2026) : збірник студентських наукових статей. Харків : ХНУРЕ, 2026. Вип. 1. рр. 57-62.