点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
东西问丨吴家玮：教育如何助建中美桥梁？****** 中新社旧金山12月15日电 题：教育如何助建中美桥梁？ ——专访美国大学首位华人校长吴家玮 中新社记者 刘关关  近几十年来，随着一批批中国留学生走出国门求学，中国与西方学术界的交流日趋紧密。东西方教育在哪些方面可以实现互鉴？教育如何助建中美桥梁？中新社“东西问”专栏近日专访美国大学首位华人校长、香港科技大学创校校长吴家玮，请他谈谈对这些问题的看法。 现将访谈实录摘要如下： 中新社记者：您在《玻璃天花板：吴家玮回忆录》中提到“打破学界的玻璃天花板”。在这一过程中，您华人身份的优势和挑战是什么？ 吴家玮：我在美国的教研之路完全是沿着学界惯例走过来的，可以说是“循规蹈矩”。我30多岁当上系主任，40多岁当上院长、校长，于是被人说成是“打破了玻璃天花板”。在这个过程中，作为华人，我遇到过挑战，担任旧金山州立大学校长期间感受尤深。 旧金山历来是一座多元且较为复杂的城市，旧金山州立大学是该市唯一的公立全科大学，学校的“一把手”难免处于众目睽睽之下，突然间来了一位在儒家思维中长大、另有一套管理模式且不太听话的华人校长，很多人不习惯。  图片美国旧金山中美国际学校的学生穿中式服装表演节目庆祝中国农历新年。当地华人比例为全美最高。陈钢 摄在美国的教研之路上，华人身份没有什么明显优势，否则就不会碰上“玻璃天花板”了。但在旧金山州立大学当校长期间，儒家思维为我的管理模式带来一些积极影响。我常跟副校长、院长、教授代表等10来个人开会，讨论各种议题。众人意见不一致时，会展开讨论、辩论或是争论。如果讨论半个小时后还僵持不下，美国同事们就忍不住了，接下来就要求通过投票结束争论。而我认为，绝大多数人都同意某一个建议，才是较好的结局。这个时候我会说，我们都是有头脑的人，多谈谈总可以在各种不同的见解里找出大家都能接受的看法。因此我主持的会议尽管时间很长，但最后总能得到一个支持度相当高的共识。 中新社记者：美国高校的工作经历，为您在科大的工作带来怎样的启发？ 吴家玮：我回国前夕，香港经济面临转型，必将注重科技。当时，香港将迎来回归祖国的时刻，“一国两制”政策也已确定。在此背景下，一群有学问、有经验、有理想的学者决定放弃国外的丰厚资源和舒适生活，凭可贵的团队精神在香港创办一所研究型大学。  坐落于香港清水湾半岛的香港科技大学。谢光磊 摄特别是我在圣迭戈加州大学当博士后，十载后重回原校担任院长。那段经历让我认识到，要办好一所大学，研究和教学必须依靠真正一流的人才。我们在创办科大时，就是全力寻找各学术领域的一流人才加盟。 另外，圣迭戈加州大学的博雅教育理念对我在香港科大的工作也有启发。当时，港英政府只允许我们办理学院、工学院和商学院，但我坚持同时要办人文与社会科学学院。我还希望每个学生主动参加文化、体育及团队活动。学校一定要培养学生的人文素养，否则怎么能算大学？人文与社会科学可以扩展年轻人的视野，理顺他们的逻辑，赋予他们深入思考、独立判断的能力。思想狭隘的人很难做到真正的创新，没有好的人文与社会科学环境，科技也搞不好。 中新社记者：您曾长期在旧金山湾区工作，并于20世纪90年代先后提出“香港湾区”以及“深港湾区”的概念。在高等教育方面，能为粤港澳大湾区提供哪些经验？ 吴家玮：旧金山湾区各种类型的高校都有，粤港澳大湾区的高等教育建设也一定要多元化。最好能够平衡发展研究型、教学型、专业型、普及型等各种类型的高校。至于学科建设，科技创新、人文创作和社科教研同样重要，多种学科都要大力发展。研究型的高校必须注重教学，教学型的高校也不能忽视研究。  第十六届江苏省高校大学生物理与实验科技作品创新竞赛上，参赛选手在调试作品。杨雨 摄此外，高等教育不能一面倒地聚焦于应用研究，基础研究也绝对不能忽视。中国过去经济落后太久，需要飞速发展，赶上发达国家，因而在很短的时间内培养了大量应用型人才。但非常关键的基础研究没有得到应有的重视。作为科技创新和突破的基石与载体，是时候大力度发展基础研究了。 中新社记者：东西方教育在哪些方面可以实现互鉴？ 吴家玮：西方发达国家因各自的历史和背景不同而发展出各有特色的教育模式，法、德、英、美等国的教育制度差别很大。在向西方借鉴的过程中，中国要按照自身的实际情况和需求善加选择，发展符合国情的教育模式。 最近几十年，中国高校数量急剧增加，水平相应提高。目前，中国每年普通、职业本专科招生人数在1000万以上，硕士生以及博士生的招生人数分别超过100万和10万。有人说中国毕业生太多，导致很多大学生找不到工作，但我认为现在的高校数量和招生规模相当合理。中国有3000多所高校，美国人口不到中国的四分之一，高校数量却更多。  北京大学2021届本科毕业生在校名前拍照留念。蒋启明 摄中国高等教育的问题不在于数量，而在于发展不平衡。美国的优秀大学分布在全国各地，但中国最好的大学主要集中在沿海几个大城市。五湖四海的“高材生”被吸引到这些大城市，毕业后大多不愿回老家。中国迫切需要推动教育、经济、文化等各项事业在地域间均衡发展，让欠发达地区对人才具备吸引力。 中国的高等教育需要适度引进符合国情的博雅本科教育。同时，应该像西方社会那样，摈弃对大学排名的迷信、对论文和专利权数量化的追求以及对学者名衔的过度崇拜。 反向来看，中国一些教育理念也值得西方学习。从文艺复兴开始，西方世界逐步盛行“个人主义”。而儒家推崇“集体”意识，为人在修身之余，必须关怀和注重家庭、社会以及国家的集体幸福。这些意识启发于教育。 中国一些教育方式同样值得西方借鉴。我曾看过一档英国电视节目，有一组上海的高中教师到伦敦一所高中教学。老师走进教室，学生要站起来齐声喊“老师好”。上课的时候学生不能交谈，课后还有很多作业。英国学生刚开始对这套教育方式很不习惯，但一段时间后，他们不但开始欣赏中国老师的教育方式，连考试成绩也提高了很多。 中新社记者：您的回忆录《同创香港科技大学：初创时期的故事和人物志》里，有一个章节是“助建中美桥梁——走向老家”。在您看来，教育应该如何助建中美桥梁？ 吴家玮：我写这本回忆录的时期，确实还是以学术交流合作助建中美桥梁的好日子。中国落后和僵化多年后，终于打开了国门。一些有理想的优秀留学生、学者在西方吸取了先进的知识和技能，然后走向老家，在国家重启、发展的征途上作了不少贡献。同时，美国的科研也需要中国的人才。在这个阶段，两国一些科研合作相当成功。  以“国际教育，成就未来”为主题的2009中国国际教育展在北京举行。吴芒子 摄美国人也认为，他们在许多方面也可以向中国学习。随着越来越多美国企业到中国发展，学习中文的美国人逐步增加。这些人到美国公司的中国分支机构任职，并通过与中国的合作提高本领，然后走回自己的老家。 但是，现阶段美国政治状况不容乐观，内部分裂、两党对立的局面令政客们以寻找外敌的手段来争取选票，中美学术交流难免受到影响。现状能否改善，要看美国的政治态度。美国学界也需努力跨越障碍，让两国的学术交流尽快恢复到过去的良好状态。 中国学界除尽可能恢复与美国学界合作外，还必须扩大国际交流的范围和对象，大力加强与欧洲、东南亚等地以及“金砖国家”的学术合作，在“一带一路”上多建“桥梁”。(完) 受访者简介：  吴家玮1937年生于上海，1949年移居香港，1955年赴美国留学。1966年，吴家玮获美国圣路易斯华盛顿大学物理学博士学位。他曾担任美国西北大学物理及天文学系主任以及圣迭戈加州大学热斐尔学院院长，并于1983年出任旧金山州立大学校长，成为美国大学首位华人校长。1988年，吴家玮受邀回港，出任香港科技大学创校校长，供职时间达13年。 回香港后，吴家玮曾先后担任港事顾问、香港特别行政区筹备委员会委员、全国政协委员、香港特别行政区创新科技顾问委员会委员、内地与香港科技合作委员会主席以及深圳市决策咨询委员会委员等职。
|
)