央廣網(wǎng)北京6月19日消息（記者 費權）6月13日，央廣網(wǎng)發(fā)布稿件《AI聊天軟件誘導10歲女孩聊色情內(nèi)容甚至割腕！記者調(diào)查→》，曝光筑夢島APP等多款AI聊天軟件面向包括未成年在內(nèi)的用戶傳播涉黃涉暴信息的亂象，引發(fā)反響。

據(jù)“網(wǎng)信上�！惫�眾號消息，6月19日上午，上海市網(wǎng)信辦依法約談筑夢島APP運營企業(yè)主要負責人，要求平臺立即整改，健全AI生成合成內(nèi)容審核機制，提升技術把關能力，加強涉未成年人不良內(nèi)容的整治清理，切實落實未成年人網(wǎng)絡保護義務。企業(yè)負責人表示，將按照約談要求，對照問題舉一反三、全面整改。

上海市網(wǎng)信辦相關負責人指出，AI技術應用的規(guī)范發(fā)展事關廣大網(wǎng)民的切身利益。依據(jù)《未成年人網(wǎng)絡保護條例》《生成式人工智能服務管理暫行辦法》等相關法規(guī)，互聯(lián)網(wǎng)平臺應當主動履行主體責任，平衡好技術創(chuàng)新與內(nèi)容合規(guī)之間的關系，切實防范AI技術濫用風險，保護未成年人合法權益，為用戶營造風清氣正的網(wǎng)絡空間。

根據(jù)國家網(wǎng)信辦統(tǒng)一部署，上海組織開展的“清朗·整治 AI 技術濫用”專項行動當前已進入第二階段。上海市網(wǎng)信辦聚焦利用AI技術制作發(fā)布謠言、不實信息、色情低俗內(nèi)容、假冒他人、從事網(wǎng)絡水軍活動等突出問題，指導督促網(wǎng)站平臺、APP運營企業(yè)集中清理相關違法不良信息，處置違規(guī)賬號、MCN機構。對屢教不改、問題嚴重的企業(yè)，上海市網(wǎng)信辦將依法予以處罰，并對典型案例進行媒體曝光。歡迎廣大網(wǎng)民積極參與，通過以下渠道據(jù)實提供舉報線索，共同營造清朗網(wǎng)絡生態(tài)。