Súng lớn AI cam kết không phát triển "robot giết người" tự trị

Anonim

Súng lớn AI cam kết không phát triển tự chủ "robot giết người "

Rô bốt

Michael Irving

Ngày 25 tháng 7 năm 2018

Hàng trăm công ty và hàng ngàn người từ ngành công nghiệp AI đã cam kết không phát triển vũ khí tự trị gây chết người (Tín dụng: chagpg / Depositphotos)

Ý tưởng về robot giết người hiện vẫn còn tồn tại trong lĩnh vực khoa học viễn tưởng, nhưng thật đáng báo động khi nhận ra rằng các chuyên gia trí tuệ nhân tạo đang coi nó như một khả năng thực sự trong tương lai gần. Sau nhiều năm kiến ​​nghị Liên Hợp Quốc hành động chống lại AI được vũ khí hóa, Viện Tương lai của Cuộc sống (FLI) giờ đây đã đưa vấn đề vào tay mình, với hàng ngàn nhà nghiên cứu, kỹ sư và công ty trong ngành AI cam kết không phát triển hoặc hỗ trợ phát triển các máy giết người tự trị bằng mọi cách.

Năm 2015, FLI đã trình bày một bức thư ngỏ tới Liên Hợp Quốc, kêu gọi tổ chức này áp đặt lệnh cấm phát triển hệ thống vũ khí tự trị gây chết người (LAWS). Bức thư được ký bởi hơn 1.000 nhà nghiên cứu robot và các nhà khoa học nổi tiếng, như Elon Musk và Stephen Hawking. Hai năm sau, FLI và nhiều người ký kết đã gửi đi theo dõi, khi các cuộc đàm phán liên tục bị đình trệ.

Sau một năm không hoạt động, các nhà lãnh đạo ngành này hiện đã thực hiện một cách tiếp cận trực tiếp hơn mà không yêu cầu đầu vào của Liên hợp quốc. Hiện tại, hàng ngàn người đã ký cam kết tuyên bố rằng "chúng tôi chọn giữ mình ở một tiêu chuẩn cao: chúng tôi sẽ không tham gia cũng như không hỗ trợ phát triển, sản xuất, buôn bán hoặc sử dụng vũ khí tự trị gây chết người. "

Các bên ký kết lần này bao gồm 160 công ty và tổ chức liên quan đến AI và hơn 2.400 cá nhân. Trong số các cấp bậc có Google DeepMind, ClearPath Robotics, Hiệp hội AI châu Âu, Quỹ XPRIZE, Silicon Valley Robotics, Đại học College London và những người như Elon Musk, Jeffrey Dean của Google Research và Thành viên của Nghị viện Anh Alex Sobel.

Công nghệ cụ thể mà nhóm đang chống lại bao gồm các hệ thống AI được vũ khí hóa có thể xác định, nhắm mục tiêu và giết người hoàn toàn tự động. Điều đó sẽ không bao gồm những thứ như máy bay không người lái quân sự, mà các phi công của con người có thể sử dụng để xác định và tiêu diệt mục tiêu từ xa. Mặc dù điều đó có vẻ giống như một sự phân biệt kỳ lạ để tạo ra, nhóm lập luận rằng trường hợp sau vẫn có một con người "trong vòng lặp ", như một bộ lọc đạo đức và đạo đức cho hành động.

"Chúng tôi, những người ký tên dưới đây đồng ý rằng quyết định lấy mạng người không bao giờ được ủy thác cho một cỗ máy, " đọc tuyên bố chính thức. "Có một thành phần đạo đức cho vị trí này, đó là chúng ta không nên cho phép máy móc đưa ra quyết định suốt đời mà những người khác - hoặc không ai - sẽ có thể phạm tội. "

Khi những cỗ máy giết người này được liên kết với các nền tảng dữ liệu và giám sát, tuyên bố tiếp tục, LAWS có thể trở thành công cụ bạo lực và áp bức mạnh mẽ, về cơ bản khiến hành động lấy mạng người trở nên quá dễ dàng, không rủi ro và không thể đếm được. Đặc biệt có vấn đề là tiềm năng cho những thiết bị đó rơi vào tay kẻ xấu thông qua thị trường chợ đen.

Dường như mục đích của cam kết là để "xấu hổ " các công ty và người dân ký kết. Nếu ngày càng có nhiều người chơi lớn nhảy lên tàu, những người không có khả năng sẽ bị kiểm tra bởi các đồng nghiệp và khách hàng của họ cho đến khi họ cũng đăng ký.

Cho dù nó có diễn ra theo cách đó hay không, thì ít nhất cũng đáng khích lệ khi thấy những bước đi của em bé được thực hiện hướng tới mục tiêu của một tương lai không có robot giết người. Liên Hợp Quốc chuẩn bị tổ chức cuộc họp tiếp theo về LUẬT vào tháng Tám.

Nguồn: Viện tương lai của cuộc sống

Hàng trăm công ty và hàng ngàn người từ ngành công nghiệp AI đã cam kết không phát triển vũ khí tự trị gây chết người (Tín dụng: chagpg / Depositphotos)