Шинэчлэлт: Apple серверийн хоёр дахь шалгалтын талаар дурьдсан бөгөөд мэргэжлийн компьютерийн харааны компани үүнийг "Хоёр дахь шалгалт хэрхэн ажиллах талаар" доор тайлбарлаж болох боломжийг тодорхойлсон.
Хөгжүүлэгчид түүний хэсгүүдийг урвуу инженерчилсэний дараа Apple-ийн CSAM системийн анхны хувилбар нь гэмгүй дүр төрхийг тэмдэглэхийн тулд үр дүнтэйгээр хууртагдсан.Гэсэн хэдий ч Apple бодит амьдрал дээр ийм зүйл тохиолдохоос урьдчилан сэргийлэх нэмэлт хамгаалалттай гэдгээ мэдэгдэв.
NeuralHash алгоритмыг нээлттэй эхийн хөгжүүлэгчийн GitHub вэб сайтад нийтэлсний дараа хамгийн сүүлийн үеийн хөгжил гарсан бөгөөд хэн ч үүнийг туршиж үзэх боломжтой ...
Бүх CSAM систем нь Сураггүй алга болсон, мөлжлөгт өртсөн Хүүхдийн Үндэсний Төв (NCMEC) зэрэг байгууллагуудаас хүүхдийн бэлгийн хүчирхийллийн талаар мэдэгдэж буй мэдээллийн санг импортлох замаар ажилладаг.Мэдээллийн санг хэш эсвэл зурагнаас дижитал хурууны хээ хэлбэрээр өгдөг.
Ихэнх технологийн аварга компаниуд үүлэн дээр байршуулсан зургуудыг сканнердсан ч Apple нь хэрэглэгчийн iPhone дээрх NeuralHash алгоритмыг ашиглан хадгалсан зургийн хэш утгыг гаргаж, дараа нь CSAM хэш утгын татаж авсан хуулбартай харьцуулдаг.
Өчигдөр нэгэн хөгжүүлэгч Apple-ийн алгоритмыг урвуугаар боловсруулж, GitHub-д кодыг гаргасан гэж мэдэгдэв - энэ мэдэгдлийг Apple үр дүнтэй баталжээ.
GitHib-ийг гаргаснаас хойш хэдхэн цагийн дотор судлаачид алгоритмыг амжилттай ашиглаж, зориудаар худал эерэг буюу ижил хэш утгыг үүсгэсэн огт өөр хоёр зургийг бүтээжээ.Үүнийг мөргөлдөөн гэж нэрлэдэг.
Ийм системүүдийн хувьд мөргөлдөх эрсдэл үргэлж байдаг, учир нь хэш нь мэдээжийн хэрэг дүрсийг маш хялбаршуулсан дүрслэл боловч хэн нэгэн зургийг маш хурдан үүсгэж чаддаг нь гайхмаар юм.
Энд зориудаар мөргөлдсөн нь зөвхөн үзэл баримтлалын баталгаа юм.Хөгжүүлэгчид CSAM хэш мэдээллийн санд хандах эрхгүй бөгөөд энэ нь бодит цагийн системд хуурамч эерэг мэдээлэл үүсгэхийг шаарддаг боловч мөргөлдөөний халдлага нь зарчмын хувьд харьцангуй хялбар гэдгийг баталж байна.
Apple нь алгоритм нь өөрийн системийн үндэс гэдгийг үр дүнтэй баталсан боловч эх хавтанд энэ нь эцсийн хувилбар биш гэдгийг хэлсэн.Мөн тус компани үүнийг хэзээ ч нууцлах бодолгүй байгаагаа мэдэгдэв.
GitHub дээр хэрэглэгчийн дүн шинжилгээ хийсэн хувилбар нь iCloud Photo CSAM илрүүлэхэд ашигладаг эцсийн хувилбар биш харин ерөнхий хувилбар гэдгийг Apple-аас Motherboard-д имэйлээр мэдэгджээ.Apple энэ алгоритмыг мөн илчилсэн гэж мэдэгдэв.
"NeuralHash алгоритм нь [...] нь гарын үсэг зурсан үйлдлийн системийн кодын нэг хэсэг бөгөөд аюулгүй байдлын судлаачид түүний зан байдал тайлбарт нийцэж байгаа эсэхийг шалгаж чадна" гэж Apple-ийн баримт бичигт бичжээ.
Компани цааш нь хэлэхдээ, өөр хоёр алхам байна: хоёрдогч (нууц) тохирох системийг өөрийн сервер дээр ажиллуулах, гараар шалгах.
Хэрэглэгчид 30 тоглолтын босгыг давсны дараа Apple-ийн сервер дээр ажилладаг хоёр дахь нийтийн бус алгоритм нь үр дүнг шалгана гэж Apple мэдэгдэв.
"Энэ бие даасан хэш нь CSAM-аас бусад зургуудын хөндлөнгийн оролцооны улмаас алдаатай NeuralHash нь төхөөрөмж дээрх шифрлэгдсэн CSAM мэдээллийн сантай таарч, тохирох босго хэмжээнээс давсан байх боломжийг үгүйсгэхийн тулд сонгосон."
Roboflow-ийн Брэд Дуйер мөргөлдөөний халдлагын талаарх үзэл баримтлалын нотолгоо болгон байрлуулсан хоёр зургийг хялбархан ялгах аргыг олсон.
Эдгээр зургууд ижил төстэй боловч өөр өөр мэдрэлийн шинж чанар олборлогч OpenAI-ийн CLIP дээр хэрхэн харагдахыг би сонирхож байна.CLIP нь NeuralHash-тай төстэй ажилладаг;Энэ нь зураг авч, мэдрэлийн сүлжээг ашиглан зургийн агуулгыг харуулсан олон тооны онцлог векторуудыг үүсгэдэг.
Гэхдээ OpenAI-ийн сүлжээ өөр.Энэ нь зураг болон текстийн хооронд зураглал хийх боломжтой ерөнхий загвар юм.Энэ нь бид үүнийг ашиглан хүнд ойлгомжтой дүрсний мэдээллийг гаргаж авах боломжтой гэсэн үг юм.
Би дээрх хоёр мөргөлдөөний зургийг CLIP-ээр дамжуулан гүйлгэж, энэ нь бас хууртагдсан эсэхийг шалгах болно.Богино хариулт нь: үгүй.Энэ нь Apple нь илрүүлсэн CSAM зургуудад бодит эсвэл хуурамч эсэхийг тодорхойлохын тулд хоёр дахь функцийг олборлох сүлжээг (CLIP гэх мэт) ашиглах боломжтой гэсэн үг юм.Хоёр сүлжээг нэгэн зэрэг хуурсан зураг үүсгэх нь илүү хэцүү байдаг.
Эцэст нь, өмнө дурьдсанчлан, зургуудыг CSAM гэдгийг баталгаажуулахын тулд гараар хянадаг.
Аюулгүй байдлын судлаач хэлэхдээ, цорын ганц бодит эрсдэл бол Apple-ийг залхаахыг хүссэн хүн бүр шүүмжлэгчдэд худал дүгнэлт өгөх явдал юм.
"Apple энэ системийг үнэхээр зохион бүтээсэн тул хэш функцийг нууцлах шаардлагагүй, учир нь "CSAM-ын бус CSAM"-ийн тусламжтайгаар таны хийж чадах цорын ганц зүйл бол Apple-ийн хариу арга хэмжээ авах багийг устгах шүүлтүүрийг нэвтрүүлэх хүртэл зарим нэг хэрэггүй зургуудаар залхаах явдал юм. Шинжилгээ дамжуулах хоолойд байгаа эдгээр хог хаягдал нь хуурамч эерэг үр дүн юм "гэж Беркли дэх Калифорнийн Их Сургуулийн Олон Улсын Компьютерийн Шинжлэх Ухааны Хүрээлэнгийн ахлах судлаач Николас Уивер онлайн чатаар Motherboard-д ярьжээ.
Хувийн нууц нь орчин үеийн ертөнцөд улам бүр анхаарал татаж буй асуудал юм.Манай удирдамжийн нууцлал, аюулгүй байдал гэх мэттэй холбоотой бүх тайланг дагаж мөрдөөрэй.
Бен Лавжой бол Британийн техникийн зохиолч, ЕХ-ны 9to5Mac програмын редактор юм.Тэрээр багана, өдрийн тэмдэглэлийн нийтлэлээрээ алдартай бөгөөд цаг хугацааны явцад Apple-ийн бүтээгдэхүүнүүдтэй холбоотой туршлагаа судалж, илүү дэлгэрэнгүй тоймыг авах болно.Тэр бас роман бичдэг, техникийн хоёр триллер, хэд хэдэн богино хэмжээний шинжлэх ухааны уран зөгнөлт кино, роман-ком байдаг!
Шуудангийн цаг: 2021 оны 8-р сарын 20-ны хооронд