人工智能在医院安保的运用-ag尊龙app

摘要目前国内医院安保要求不断提高，应用人工智能推动医院安保改革具有重要意义。通过从现实和政策角度分析医院对人工智能安保的需求，总结归纳现阶段人工智能推动医院安保改革的实践类型，对医院采用人工智能安保的风险进行评估，发现医院人工智能安保存在伦理风险、隐私风险、合规风险。现阶段医院进行人工智能安保改革有重要现实意义，但需要对存在的风险进行防控。

关键词人工智能；医院安保；风险防控

近年来，一些医院内治安事件使医疗卫生行业不得不重视医院的安保工作，严防重大治安案件和安全事故，为患者和医护人员提供安全、高质量的医疗环境成为医院治安防控的一项重点工作。以北京市为例，自２０２０年７月１日起，北京市医院将统一建立安保制度，在预警方面将人防和技防建设相结合，采用部分人工智能安全防护设备和监控设备，在重点区域入口进行安全检查，严防各类禁止、限制类物品进入医院。目前，北京市部分医院已经展开利用人工智能助推医院治安管理的实践探索。

一、现阶段医院对人工智能安保的需求分析

（一）医院安保措施落后，不能满足现实需求

医院作为开放式的公共场所，人员流动量大，因此对安全性要求高。但传统的医院安保模式主要是提高对安保公司和安保人员的要求，极少采用智能化的安保设备，难以为医院的整体安全保驾护航。部分大型医院采用半人工智能化的安防系统。这类安防系统的建设包括周界防护系统、主／被动报警系统、门禁系统、对讲系统等安防子系统和视频监控系统、智能图像分析系统等。将这些监控子系统进行简单堆砌，靠最原始的人工分析将安防系统上报的安全／突发事件与监控系统的现场画面联系起来，监控人员的劳动强度大，工作效率低［１］，难以满足现实需要。

（二）政策导向

人工智能安保的发展与国家宏观经济形势密切相关，政策导向是安保产业发展的重要影响因素。近年来，我国从中央到地方都出台了相关文件鼓励医院构建安全防范系统加强安保建设，逐渐推动医院人工智能安保建设。而安保行业的发展也将为医院安保全面升级为规模化、自动化、智能化的产业奠定基础。通过对近年来关于加强医院安保的政策进行梳理，可以发现从２０１３年到２０２０年我国从中央到地方层面乃至行业协会都出台了相关文件来鼓励提高人工智能安保水平。仅２０２０年，北京市人大常委会了《北京市医院安全秩序管理规定》，山西省公安厅与山西省卫生健康委员会联合了《关于依法严厉打击涉医违法犯罪维护医院安全秩序的通告》，山东省卫生健康委员会等１１部门联合了《关于进一步做好新形势下医疗纠纷综合处置工作的意见》……从２０１３开始，我国虽然从中央到地方层面乃至二级以上医疗机构规定要根据需要在医院入口处或重点区域入口处进行安全检查，严防管制器具、易燃易爆等禁限物品进入医院；拒不接受安检的，医院可拒绝其进入。但实施效果不理想，医院内安全事件仍有发生。这反映出我国目前的医院安保对危险因素的识别和控制能力十分有限，需要进一步提高医院安保的智能化水平，用技术手段减少医院的不安全因素。

二、人工智能推动医院安保改革的探索

将人工智能安防应用到医院安全保障中是将科技造福于国计民生的重大举措。现阶段人工智能推动医院安保的探索主要包括身份验证、差异化安检、异常行为识别三大类型。

（一）身份验证

目前，医院的人工智能安保系统在技术上可以实现身份验证功能，即在医院主要入口处安装人工智能人脸识别摄像头，把流动人员分为若干类别，如有犯罪前科人员、潜在纠纷人员、非重点关注人员等，通过人脸识别技术对进入医院的各类人员进行实时识别，对重点关注人员进行预警。对潜在纠纷人员进行关怀问诊、跟随陪诊，降低医患纠纷风险；通过医院内的视频监控，实现对重点关注人员的路径跟踪、异常行为识别分析。运用黑名单技术，对进入医院的敏感人群进行实时识别和预警。敏感人群可由医院保卫部门根据工作需要自行定义，如“医闹”人员、“号贩子”、小偷或者是医院需要重点关注的其他人员［２］。人工智能身份验证技术集“探温、消毒、人脸识别”于一体，可以提高防控工作效率，降低人群密集度，减少交叉感染。身份验证功能的运用可以更好地保障医院的安全，但是否符合新实施的《个人信息保护法》的规定，是否会对个人的隐私安全造成更大的挑战则需要进一步讨论。

（二）差异化安检

近年来，随着医院人流量逐年增大，医院安检压力也明显增大，但真正具有危险性的重点关注人员却是少数。医院先对进入医院的人员进行分类，依据人员分类采取繁简不同的安检措施，可以节约医院十分有限的安保资源。经人工智能身份验证的重点关注人员，需要通过太赫兹人体安检门，全面查验重点关注人员随身携带物品，而非重点关注人员可通过普通安检设备进入医院。基于人工智能的新安检测温门，具有热成像测温、人体安检、潜在“医闹”人员识别报警等多种功能，能有效防止携带管制器具和易燃易爆、有毒有害等危险品人员进入医院，能实现实时报警，及时发现和消除安全隐患。差异化安检通过技术手段对进入医院的人员进行分类，显然需要行政主体收集相关人员的身份信息，行政机关依照法定权限、程序收集个人信息后如何授权给医院使用，如何保障行政机关履行法定职责所必需的范围和限度，是医院安保改革应当重点关注的风险之一。

（三）异常行为识别

人工智能异常行为识别可通过移动人脸识别记录仪和固定监控两种途径实现。移动人脸识别记录仪通过移动设备，如４ｇ高清工作记录仪、对讲机等，对进入医院的人员进行异常行为智能识别；对异常行为，如徘徊、打架、聚集、入侵等，提醒后台人员重点关注，有必要时可快捷报警。固定监控即从通道准入、流量统计、身份识别、行为分析等方面实现视频智能识别。目前，人工智能安检的人、证、物合一，可从人脸识别安检门、多台联网、数据服务、智能违禁品登记系统等方面对人员的异常行为进行智能识别。人工智能深度学习与神经网络、云计算、大数据的结合，可使人工智能借助技术外溢效应为其他领域的各种创新提供解决方法［３］。此外，医院还可以采用具有一定智能化水平的防盗报警系统，对镜头捕捉到的画面进行分析、判断和实时监控。现代化的医院安防系统还可融合更多的科技元素，如监控无需人员值守，视频监控结合空气温湿度、电压等环境监测，在特殊病房采用指纹识别技术和门禁联动图像抓拍技术来控制人员进出等。这些智能化安保设置可以大幅度降低人力成本，使医院对异常行为快速做出反应，提高医院安保工作质量。

三、人工智能应用于医院安保改革的风险及防控

（一）伦理风险及防控

运用人工智能加强医院安保对于潜在的犯罪分子具有震慑作用，在一定程度上可以保护医务人员和普通患者及家属的人身安全，维护医院内部的整体治安。但大部分到医院的人员是身患疾病的普通患者及家属，进入医院之前要通过人工智能安保系统接受重重安检，会导致患者就医感受不佳，且存在耽误患者治疗的可能性，有引发医患矛盾的风险，同时有悖于医患之间的伦理。医患矛盾的发生有技术原因，也有服务原因。医疗技术的提升受制于科学技术的进步，不可能一蹴而就，因此医院应当大力提升服务。一方面要提高安保人员的职业道德水平，另一方面要完善相关规章制度来提升安保人员的服务水平，要让新时代的安保教育思想落实到每个人身上，根据医院的实际情况开展安保工作培训，让安保人员的理念和能力同时提升［４］。具体而言，在人工智能安保工作中，应当首先优化流程，落实责任，分清各岗位具体人员的责任，制定合理的奖罚机制［５］。比如安排专门的人员向患者和家属介绍目前医院采用的人工安保系统，对系统识别的潜在纠纷人员进行关怀疏导，通知具体责任人员本着认真负责的态度及时查明真相，分清责任；安排专门部门接待患者或家属的投诉，利用相关政策文件或专家答复，用通俗易懂的语言向患者说明情况；而患者一直提出无理要求时应当坚持原则，必要时通知公安机关介入。同时，社会也应当对患者和家属进行宣传教育，提倡采用合理合法方式解决医患纠纷，谴责和惩罚暴力伤医行为。

（二）隐私风险及防控

人工智能应用于医院安保改革不可避免要运用人脸识别系统，所有进入医院的人员都会被收集到包括肖像在内的个人信息，但这些信息的最终获得者和用途却没有明确。人脸识别在安全和隐私方面带来的隐患和挑战集中表现在活体检测漏洞、系统本身识别率不足百分之百、人脸数据存储安全性这３个方面［６］。由于这些个人信息的获取并不需要本人同意和配合，被识别人在无意识情况下就会被采集各种隐私信息，将引发各种隐私方面的风险。有专家学者曾大力反对这种无差别化的人脸信息识别技术，认为其不仅侵犯公民个人的隐私权，更关乎社会的基本走向［７］。目前，医院利用的人工智能安防技术由于在收集个人信息时的无意识性、非接触性、侵入性等特点，对个人隐私的挑战极大。个人医疗记录、日常行踪等信息的泄露将危害个人信息安全、财产安全，甚至人身安全。我国于２０２１年１１月１日正式施行《个人信息保护法》，该法规定处理个人信息应当遵循合法、正当、必要、诚信以及目的明确和最小必要、公开透明等原则，明确了公共场所监控设备的使用规则和限制性规定，即在公共场所安装图像采集、个人身份识别设备必须出于维护公共安全的目的并且设置显著的提示标志；该法从法律层面赋予了个人信息主体对其个人信息的处理享有的知情权、决定权、查阅权、复制权，限制或者拒绝他人对其个人信息处理的权利；从平台角度规定了个人信息处理者的安全保障、合规审计、个人信息影响评估等义务。医院作为人工智能安保的实施者，运用人脸识别等科技时不可避免将收集和使用个人信息，在进行收集和使用之前必须遵循一定的规则。具体而言，第一，收集个人信息的只能出于提前预警以维护医院治安的目的而不能是其它目的；第二，应当在安装图像采集、个人身份识别的公共场所设置显著的提示标志，提醒进入医院的人员即将被采集个人信息的事实；第三，为了保障个人信息主体的知情权、决定权、查阅权、复制权，收集个人信息之前应当取得进入医院的人员的明确同意，同意可以以口头、书面或者电子形式作出；有学者指出，智能媒体数据使用的伦理规范应建立在用户授权的基础之上，在授权范围内对数据进行合理地使用［８］，所以医院在识别个人信息之后，对于没有危险因素的信息应当及时删除，禁止信息被检索和访问，以此保障信息处理、存储的安全。

（三）合规风险及防控

人工智能安保措施中涉及对“潜在纠纷人员”进行关怀问诊、跟随陪诊以及随身物品检查等行为，对公民的人身自由造成了一定限制且缺乏法律依据。根据《立法法》的规定，限制人身自由的强制措施只能根据全国人大及其常委会制定的法律规定来执行。虽然我国早在２０１７年便出台了《严密防控涉医违法犯罪维护正常医疗秩序的意见》，要求二级以上医院（含妇幼保健院）应当在公安机关指导下开展安检工作，安装符合标准要求的监控设备；２０２０年７月１日施行的《北京市医院安全秩序管理规定》也明确进入医院的人员有接受安检的义务，要求医院应当建立安全检查制度。但这类意见和规定的效力层级较低，不属于全国人大及其常委会制定的法律规定，不能成为医院可能限制公民人身自由的法律依据。《民法典》规定，非法搜查他人身体的，受害人有权请求行为人承担民事责任，人工智能安保中对“潜在纠纷人员”的随身物品检查等行为可能侵害他人的民事权益，这也是医院人工智能安保亟需解决的问题。未来，在立法层面应当完善医院采用人工智能加强安保的法律依据，对医院的法律地位、行为的法律属性以及法律责任的确定等方面进行明确规定，使医院的行为有法可依，保障医院的安全和秩序。同时，医院在获得法律授权或委托之前不能独立采用人工智能安保措施，可以由医院的安保人员协助公安机关派驻的公安干警共同安检。公安机关可以根据现场情况和治安管理办法采取医院不能采取的安检措施，如采取强制措施或者对违禁物品进行收缴；医院安保人员可以协助公安干警进行技术性操作［９］。警察和保安协同合作方面可以借鉴美国的经验，建立以医院保卫处为依托，以派驻医院警员为中心，多方主体互相沟通、共同治理的多方主体合作工作模式［１０］。为了防止医院利用人工智能安保侵害相关人员的民事权益，医院安保部门应当尊重个人对个人信息的知情权、决定权，行政机关应当加大违法处理个人信息行为的惩戒力度，根据《个人信息保护法》对侵害民事权益的行为设置不同梯度的行政处罚，对违法处理个人信息的应用程序可以责令医院暂停或者终止其使用。通过医院安保部门加强与公安机关的联动，可以充分发挥医院安保部门的主观能动性，实现医院人员和设备的全面升级，进一步提高医院自身防控能力，排除安全隐患，保障医院安全。

四、结语

科技的进步和社会的现实需要使医院安保面临新的挑战，要不断进行智能化改革以满足现实需要。目前，医院加强人工智能安保防控是保障医务人员和患者安全的重要举措。医院和相关部门在运用人工智能加强医院安保的同时要防范各类风险，逐步建立安全高效、依法合规的人工智能安全保障系统。

参考文献

［１］卫玲．以人工智能推进“一带一路”建设的提质升级———基于马克思政治经济学的思考［ｊ］．西北大学学报（哲学社会科学版），２０１９，４９（３）：１５１－１５８．

［２］师博．人工智能助推经济高质量发展的机理诠释［ｊ］．改革，２０２０（１）：３０－３８．

［３］舒艾香，尹文．以人工智能助推社会治理能力现代化［ｎ］．湖北日报，２０２０－０８－０５（１１）．

［４］田卫国．论医院行政管理安保工作升级措施［ｊ］．智库时代，２０２０（１５）：２８７－２８８．

［５］晏合虎，陈虹全．浅析医院安全保卫工作影响因素及应对措施［ｊ］．办公室业务，２０２０（１７）：８０－８１，１２１．

［６］安鑫．ａｉ赋能技术革新推动安防迈向智能化时代———专访北京汉王智远董事长兼总经理黄磊［ｊ］．中国安防，２０２１（ｚ１）：１５－１９．

［７］劳东燕．潜在风险与法律保护框架的构建［ｎ］．检察日报，２０２０－１０－１２（４）．

［８］廖秉宜，姚金铭，余梦莎．智能媒体的伦理风险与规制路径创新［ｊ］．中国编辑，２０２１（２）：２９－３４．

［９］沈超，张军．探讨医院保卫工作中预防性安保对策［ｊ］．医学食疗与健康，２０２０，１８（１６）：１８７，１９０．

作者:朱谢君 邓勇 单位:北京中医药大学人文学院