หาก Skynet เอาชนะได้ให้ลองเขียนคำว่า 'Robot' บนเสื้อของคุณ

การระบุ CLIP ก่อนและหลังการติดกระดาษที่ระบุว่า 'iPod' กับแอปเปิ้ล

หลอกเทอร์มิเข้าไม่ได้ถ่ายภาพที่คุณอาจจะเป็นง่ายๆเป็นสวมป้ายยักษ์บอกว่าหุ่นยนต์อย่างน้อยจนถึงเครื่องแต่งกายวิจัย Elon Musk แอ่น OpenAI จะทำให้ระบบการรับรู้ภาพของพวกเขาไม่ได้กับสิ่ง misidentify อยู่บนพื้นฐานของการเขียนบางส่วนจาก Sharpie

นักวิจัยของ OpenAI เผยแพร่ผลงานเมื่อสัปดาห์ที่แล้วเกี่ยวกับเครือข่ายประสาทเทียม CLIP ซึ่งเป็นระบบที่ล้ำสมัยเพื่อให้คอมพิวเตอร์จดจำโลกรอบตัวได้ เครือข่ายประสาทเทียมคือระบบแมชชีนเลิร์นนิงที่สามารถฝึกฝนได้ตลอดเวลาเพื่อให้ทำงานได้ดีขึ้นโดยใช้เครือข่ายของโหนดที่เชื่อมต่อกันในกรณีของ CLIP การระบุอ็อบเจ็กต์ตามรูปภาพในรูปแบบที่ผู้พัฒนาระบบไม่ชัดเจนในทันที . งานวิจัยที่ตีพิมพ์เมื่อสัปดาห์ที่แล้วเกี่ยวข้องกับ“ หลายรูปแบบ เซลล์ประสาท” ซึ่งมีอยู่ทั้งในระบบทางชีววิทยาเช่นสมองและเซลล์เทียมเช่น CLIP; พวกเขา“ ตอบสนองต่อกลุ่มของแนวคิดนามธรรมที่มีศูนย์กลางอยู่ที่ธีมระดับสูงทั่วไปแทนที่จะเป็นคุณลักษณะด้านภาพที่เฉพาะเจาะจงใด ๆ ” ในระดับสูงสุด CLIP จะจัดระเบียบรูปภาพตาม "การรวบรวมแนวคิดแบบหลวม ๆ "

ตัวอย่างเช่นทีมงาน OpenAI เขียนว่า CLIP มี เซลล์ประสาท“ Spider-Man” หลายตัวที่ยิงออกมาเมื่อเห็นภาพของแมงมุมคำว่า“ แมงมุม” หรือภาพหรือภาพวาดของซูเปอร์ฮีโร่ในตำนาน ผลข้างเคียงอย่างหนึ่งของเซลล์ประสาทหลายรูปแบบตามที่นักวิจัยกล่าวว่าสามารถใช้หลอก CLIP ได้: ทีมวิจัยสามารถหลอกให้ระบบระบุแอปเปิ้ล (ผลไม้) เป็น iPod (อุปกรณ์ที่ผลิตโดย Apple) ได้ โดยการแตะกระดาษที่เขียนว่า“ iPod” ลงไป

การระบุ CLIP ก่อนและหลังการติดกระดาษที่ระบุว่า 'iPod' กับแอปเปิ้ล

ยิ่งไปกว่านั้นระบบมีความมั่นใจมากขึ้นว่าได้ระบุรายการที่เป็นปัญหาอย่างถูกต้องเมื่อเกิดเหตุการณ์นั้น

ทีมวิจัยเรียกความผิดพลาดนี้ว่าเป็น "การโจมตีด้วยการพิมพ์" เนื่องจากทุกคนที่ตระหนักถึงปัญหานี้จะใช้ประโยชน์จากความผิดพลาดโดยเจตนา:

นี่เป็นความล้มเหลวของ CLIP น้อยกว่าที่เป็นภาพประกอบว่าการเชื่อมโยงพื้นฐานที่มีความซับซ้อนเพียงใดเมื่อเวลาผ่านไป ต่อผู้ปกครองวิจัย OpenAI ได้ชี้ให้เห็นรูปแบบความคิดที่ CLIP สร้างอยู่ในหลายวิธีที่คล้ายกับการทำงานของสมองของมนุษย์

นักวิจัยคาดว่าปัญหาแอปเปิ้ล / ไอพอดเป็นเพียงตัวอย่างที่ชัดเจนของปัญหาที่สามารถแสดงให้เห็นได้ด้วยวิธีอื่น ๆ นับไม่ถ้วนใน CLIP เนื่องจากเซลล์ประสาทหลายรูปแบบของมัน“ แสดงให้เห็นทั่วทั้งตัวอักษรและสัญลักษณ์ซึ่งอาจเป็นดาบสองคม & rdquo; ตัวอย่างเช่นระบบระบุกระปุกออมสินเป็นการรวมกันของเซลล์ประสาท“ การเงิน” และ“ ตุ๊กตาของเล่น” นักวิจัยพบว่า CLIP ระบุภาพของพุดเดิ้ลมาตรฐานเป็นกระปุกออมสินเมื่อพวกเขาบังคับให้เซลล์ประสาทการเงินยิงโดยการวาดสัญลักษณ์ดอลลาร์

ทีมวิจัยตั้งข้อสังเกตว่าเทคนิคนี้คล้ายกับ " ภาพปฏิปักษ์ " ซึ่งเป็นภาพที่สร้างขึ้นเพื่อหลอกล่อเครือข่ายประสาทเทียมให้มองเห็นบางสิ่งที่ไม่มีอยู่ในนั้น แต่โดยรวมแล้วมีราคาถูกกว่าในการดำเนินการเนื่องจากสิ่งที่ต้องใช้คือกระดาษและวิธีการเขียน (ตามที่Register ระบุไว้ว่าระบบจดจำภาพนั้นมีอยู่ในวงกว้างในวัยเด็กและเสี่ยงต่อการโจมตีแบบง่ายๆอื่น ๆ เช่นระบบขนส่งอัตโนมัติของ Tesla ที่นักวิจัยของ McAfee Labs หลอกให้คิดว่าป้ายทางหลวง 35 ไมล์ต่อชั่วโมงเป็นสัญญาณ 80 ไมล์ต่อชั่วโมงพร้อมกับ a เทปพันสายไฟไม่กี่นิ้ว)

นักวิจัยกล่าวเสริมว่ารูปแบบการเชื่อมโยงของ CLIP ยังมีความสามารถที่จะผิดพลาดอย่างมีนัยสำคัญและสร้างข้อสรุปที่เป็นคนหัวดื้อหรือเหยียดเชื้อชาติเกี่ยวกับคนประเภทต่างๆ:

“ เราเชื่อว่าการตรวจสอบ CLIP เหล่านี้เป็นเพียงการขูดขีดพื้นผิวในการทำความเข้าใจพฤติกรรมของ CLIP และเราขอเชิญชวนให้ชุมชนการวิจัยเข้าร่วมเพื่อปรับปรุงความเข้าใจของเราเกี่ยวกับ CLIP และแบบจำลองดังกล่าว” นักวิจัยกล่าว

CLIP ไม่ใช่โครงการเดียวที่ OpenAI กำลังดำเนินการอยู่ กำเนิด GPT 3 ข้อความซึ่งนักวิจัย OpenAI อธิบายไว้ใน 2019 เป็นอันตรายเกินไปที่จะปล่อยมีวิธีมานาน และตอนนี้มีความสามารถในการสร้างธรรมชาติทำให้เกิด ( แต่ไม่จำเป็นต้องน่าเชื่อ) บทความข่าวปลอม ในเดือนกันยายน 2020 Microsoft ได้รับใบอนุญาตพิเศษ เพื่อให้ GPT-3 ทำงานได้

Suggested posts

เปิดเผยประวัติศาสตร์ที่แท้จริงของผู้หญิงผู้บุกเบิกวิดีโอเกม

เปิดเผยประวัติศาสตร์ที่แท้จริงของผู้หญิงผู้บุกเบิกวิดีโอเกม

Mary Kenney พบแรงบันดาลใจขณะเขียน Gamer Girls และหวังว่านักพัฒนาเกมหญิงทั้งในปัจจุบันและอนาคตก็เช่นกัน เป็นความจริง: ผู้หญิงที่ช่วยหล่อหลอมอุตสาหกรรมวิดีโอเกมมักจะไม่เป็นที่รู้จัก ซ่อนเร้นจากประวัติศาสตร์โดยเรื่องเล่ายอดนิยมและทุนการศึกษาที่เน้นผู้ชายเป็นศูนย์กลาง

ตอนนี้ YouTube จะเล่นโฆษณาก่อนวิดีโออื่นๆ แต่ครีเอเตอร์จะไม่เห็นค่าเล็กน้อย

ตอนนี้ YouTube จะเล่นโฆษณาก่อนวิดีโออื่นๆ แต่ครีเอเตอร์จะไม่เห็นค่าเล็กน้อย

ในการอัปเดตข้อกำหนดในการให้บริการเมื่อวันพุธ YouTube ได้ประกาศว่าขณะนี้จะดำเนินการโฆษณาก่อนวิดีโอที่สร้างโดยผู้ใช้ที่ไม่ได้เป็นสมาชิกของโปรแกรมพันธมิตร แต่จะไม่แบ่งปันรายได้ใหม่ที่ได้รับกับผู้ใช้เหล่านั้น “YouTube มี สิทธิ์ในการสร้างรายได้จากเนื้อหาทั้งหมดบนแพลตฟอร์มและโฆษณาอาจปรากฏในวิดีโอจากช่องที่ไม่ได้อยู่ในโปรแกรมพาร์ทเนอร์ YouTube” อีเมลคืนวันพุธจากแพลตฟอร์มอ่าน

Related posts

เจฟฟ์ เบซอส พบกับบอริส จอห์นสัน นอกรอบการประชุมสมัชชาใหญ่แห่งสหประชาชาติ

เจฟฟ์ เบซอส พบกับบอริส จอห์นสัน นอกรอบการประชุมสมัชชาใหญ่แห่งสหประชาชาติ

นายกรัฐมนตรีอังกฤษ บอริส จอห์นสัน ทักทายผู้ก่อตั้งอเมซอน เจฟฟ์ เบซอส และแฟนสาวของเขา ลอเรน ซานเชซ ที่บ้านพักทางการทูตของสหราชอาณาจักร เมื่อวันที่ 20 กันยายน พ.ศ. 2564 ในนครนิวยอร์ก ผู้นำทางการเมืองจากทั่วโลกกำลังประชุมกันที่องค์การสหประชาชาติในนิวยอร์กในสัปดาห์นี้

11 วิธีที่น่ากลัวเล็กน้อยที่หุ่นยนต์กำลังเปลี่ยนวิธีการกินของเรา

11 วิธีที่น่ากลัวเล็กน้อยที่หุ่นยนต์กำลังเปลี่ยนวิธีการกินของเรา

อุตสาหกรรมอาหารเป็นหนึ่งในประเด็นหลักที่เทคโนโลยีหุ่นยนต์กำลังแทรกซึมเข้าสู่สังคม นั่นเป็นเหตุผลที่ The Takeout ทุ่มเทเพื่อแจ้งให้ผู้อ่านทราบเกี่ยวกับวิธีที่หุ่นยนต์ "ช่วย" เพื่อทำให้ชีวิตของเรา "ง่ายขึ้น

เป็นไปได้ไหมที่จะอัพโหลดข้อมูลไปยังสมองของฉัน?

เป็นไปได้ไหมที่จะอัพโหลดข้อมูลไปยังสมองของฉัน?

มันเป็นค่ำคืนแห่งการทำงานในยุคทรัมป์ และฉันอยู่บนเตียง อ่านหนังสือเกี่ยวกับเสรีนิยมใหม่ หรือแม่นยำยิ่งขึ้นพยายาม

MORE COOL STUFF

'Dancing With the Stars': Cheryl Burke 'Lucky' และ 'Thankful' สำหรับการสนับสนุน Cody Rigsby ในการเดินทาง Sobriety

'Dancing With the Stars': Cheryl Burke 'Lucky' และ 'Thankful' สำหรับการสนับสนุน Cody Rigsby ในการเดินทาง Sobriety

"Dancing With the Stars" โปรเชอริล เบิร์ก บอกว่าเธอ "โชคดี" และ "ขอบคุณ" สำหรับมิตรภาพและการสนับสนุนของโคดี้ ริกส์บี คู่หูคนดัง

'ใต้ดาดฟ้าเมดิเตอร์เรเนียน': Lexi Wilson ได้รับการบอกว่าเธอเป็น 'บุคคลที่เลวร้ายที่สุด' ที่เชฟแมทธิวพบ: เขาเสียใจที่พูดหรือไม่?

'ใต้ดาดฟ้าเมดิเตอร์เรเนียน': Lexi Wilson ได้รับการบอกว่าเธอเป็น 'บุคคลที่เลวร้ายที่สุด' ที่เชฟแมทธิวพบ: เขาเสียใจที่พูดหรือไม่?

เชฟแมทธิวบอก Lexi Wilson ว่าเธอคือ 'คนที่เลวร้ายที่สุด' ที่เขาเคยพบในตอนสุดท้ายของ 'Below Deck Mediterranean' ความเสียใจใด ๆ ?

'Dancing With the Stars': Brian Austin Green Jokes, 'ถ้าฉันยุ่งฉันจะไม่แปลกใจถ้า Sharna ทิ้งฉันไว้'

'Dancing With the Stars': Brian Austin Green Jokes, 'ถ้าฉันยุ่งฉันจะไม่แปลกใจถ้า Sharna ทิ้งฉันไว้'

Brian Austin Green ผู้เข้าประกวด Dancing with the Stars พูดติดตลกว่าเขาจะไม่แปลกใจเลยหากแฟนสาว Sharna Burgess "ทิ้งเขาไป" ถ้าเขาทำพลาด

'Impeachment: American Crime Story': Monica Lewinsky กล่าวว่า 1 ช่วงเวลาบอกเธอว่าเธอกำลังทำงาน 'กับคนที่เหมาะสม'

'Impeachment: American Crime Story': Monica Lewinsky กล่าวว่า 1 ช่วงเวลาบอกเธอว่าเธอกำลังทำงาน 'กับคนที่เหมาะสม'

Monica Lewinsky ไม่แน่ใจเกี่ยวกับ 'Impeachment: American Crime Story' ในตอนแรก แต่เธอมาบนเรือหลังจากความคิดเห็นหนึ่งทำให้เธอมั่นใจ

'อยู่สัมภาษณ์' สามารถช่วยให้บริษัทหลีกเลี่ยงการออกจากการสัมภาษณ์ได้หรือไม่?

'อยู่สัมภาษณ์' สามารถช่วยให้บริษัทหลีกเลี่ยงการออกจากการสัมภาษณ์ได้หรือไม่?

พวกเราส่วนใหญ่รู้ว่าการสัมภาษณ์ทางออกทำงานอย่างไร แต่การสัมภาษณ์อยู่คืออะไร? และการพูดคุยกับพนักงานเกี่ยวกับความพึงพอใจในงานสามารถทำให้พวกเขาไม่ต้องเดินออกไปไหน?

ต้องการจับมือเพื่อนร่วมงานเสมือนของคุณหรือไม่? โฮโลแกรมช่วยได้

ต้องการจับมือเพื่อนร่วมงานเสมือนของคุณหรือไม่? โฮโลแกรมช่วยได้

นั่นจะทำให้การทำงานจากระยะไกลดูอบอุ่นขึ้นเล็กน้อยใช่ไหม

Mars Solar Conjunction คืออะไรและเหตุใดจึงสำคัญ

Mars Solar Conjunction คืออะไรและเหตุใดจึงสำคัญ

การรวมตัวกันของดวงอาทิตย์บนดาวอังคารเกิดขึ้นทุก ๆ สองปี และบังคับให้ NASA หยุดสื่อสารกับสินทรัพย์บนดาวเคราะห์แดง แล้วตกลงว่าไง?

สงครามฝรั่งเศสและอินเดียเป็นสงครามโลกครั้งที่ 'ของจริง' ครั้งแรก

สงครามฝรั่งเศสและอินเดียเป็นสงครามโลกครั้งที่ 'ของจริง' ครั้งแรก

สงครามฝรั่งเศสและอินเดียหรือที่เรียกว่าสงครามเจ็ดปีไม่ใช่ฝรั่งเศสที่ต่อต้าน 'อินเดียนแดง' แต่เป็นการยึดครองดินแดนฝรั่งเศสและอังกฤษจำนวนมหาศาลที่นำไปสู่การปฏิวัติอเมริกาทางอ้อม

ตำรวจบอกว่ามีผู้ถูกยิงเสียชีวิตในรถตู้ในวิสคอนซิน 4 คนถูกฆ่าตายในมินนิโซตา: 'อกหัก'

ตำรวจบอกว่ามีผู้ถูกยิงเสียชีวิตในรถตู้ในวิสคอนซิน 4 คนถูกฆ่าตายในมินนิโซตา: 'อกหัก'

ผู้ต้องสงสัยสองคนถูกควบคุมตัวหลังจากจัสมิน คริสติน สตอร์ม, Matthew Isiah Pettus, Nitosha Lee Flug-Presley และ Loyace Foreman III ถูกยิงเสียชีวิตเมื่อวันที่ 12 กันยายนในรถเอสยูวีในรัฐวิสคอนซิน

ประธานาธิบดี Joe Biden วางแผนที่จะรับ COVID-19 Booster ทางกล้อง

ประธานาธิบดี Joe Biden วางแผนที่จะรับ COVID-19 Booster ทางกล้อง

แนะนำให้ฉีดครั้งที่ 3 สำหรับคนอเมริกันที่ฉีดวัคซีนที่มีอายุ 65 ปีขึ้นไป รวมทั้งผู้ที่มีความเสี่ยงสูงที่จะป่วยเป็นโรคร้ายแรง

ออสเตรเลียเห็นประชากรโคอาล่าลดลง 30% ในสามปี

ออสเตรเลียเห็นประชากรโคอาล่าลดลง 30% ในสามปี

มูลนิธิโคอาล่าแห่งออสเตรเลียรายงานว่าจำนวนโคอาล่าลดลงเนื่องจากประเทศสูญเสียสัตว์หนึ่งในสามในสามปี

รองประธานาธิบดี กมลา แฮร์ริส กำลังจะไปทัศนศึกษาในวันศุกร์นี้

รองประธานาธิบดี กมลา แฮร์ริส กำลังจะไปทัศนศึกษาในวันศุกร์นี้

รองประธานกมลา แฮร์ริส จะปรากฏตัวในรายการทอล์คโชว์ในสตูดิโอเป็นครั้งแรกในรายการ The View นับตั้งแต่เข้ารับตำแหน่งในเดือนมกราคม

ทุกสิ่งที่คุณต้องการรู้เกี่ยวกับการออกแบบปรมาณู

ทุกสิ่งที่คุณต้องการรู้เกี่ยวกับการออกแบบปรมาณู

เนื้อหาบทความ ในปี 2016 แบรด ฟรอสต์ได้แนะนำการออกแบบอะตอมเป็นวิธีการแบบแยกส่วนสำหรับการสร้างไลบรารีรูปแบบที่เรียบง่าย บำรุงรักษาได้ และมีรูปแบบ ทำได้โดยการสร้างส่วนประกอบ UI ที่ใหญ่ขึ้นและซับซ้อนมากขึ้นจากส่วนประกอบ UI ที่เล็กกว่าและเรียบง่ายกว่า

Rhea Myers สร้างศิลปะบล็อกเชนก่อน NFTs เป็นอย่างไร

Rhea Myers สร้างศิลปะบล็อกเชนก่อน NFTs เป็นอย่างไร

คุณอาจคิดว่าคุณรู้ว่าโทเค็นที่ไม่สามารถเปลี่ยนได้หรือ NFT คืออะไรหรือดูเหมือน - รูปโปรไฟล์การ์ตูนของ CryptoPunk หรือของ Bored Ape ที่อาจสวมชุดเดินทะเล แต่ก่อนที่ NFTs จะกลายเป็นปรากฏการณ์ที่มีโครงการ 10 อันดับแรกทำปริมาณการซื้อขายขั้นต่ำ 9 พันล้านดอลลาร์ตลอดเวลา Rhea Myers เป็นนักเขียนโค้ดบล็อกเชนและศิลปินที่เคยขลุกอยู่ในสิ่งต่าง ๆ เช่น generative art bots บน Tumblr และศิลปะปัญญาประดิษฐ์

สมดุลชีวิตการทำงาน

สิ่งที่เราเรียนรู้ได้จากไอซ์แลนด์และประเทศนอร์ดิกอื่นๆ

คุณคงเคยเห็นพาดหัวข่าวเกี่ยวกับ "สัปดาห์ทำงาน 4 วัน" เมื่อเร็วๆ นี้ และความสำเร็จอันยิ่งใหญ่ที่มีต่อประสิทธิภาพและความสุขของพนักงาน การศึกษาเฉพาะที่บทความเหล่านี้อ้างอิงถึงเป็นเส้นทางหลายปีที่ทำในไอซ์แลนด์ระหว่างปี 2015 และ 2019

ไม่ได้ยินความชั่ว ไม่เห็นความชั่ว แต่ฉันได้กลิ่นบางอย่างคาว

ไม่ได้ยินความชั่ว ไม่เห็นความชั่ว แต่ฉันได้กลิ่นบางอย่างคาว

การพิจารณาอย่างวิพากษ์วิจารณ์ว่าผู้ที่เคยเป็นทาสจากสหรัฐอเมริกากดขี่ไลบีเรียพื้นเมืองอย่างไร ในปี ค.ศ. 1927 โธมัส ฟอล์คเนอร์ ถูกปฏิเสธโดยความล้มเหลวในการคว้าชัยชนะในการเลือกตั้งประธานาธิบดี โดยกล่าวหาว่าประธานาธิบดีชาร์ลส์ คิง ที่เพิ่งได้รับการเลือกตั้งใหม่ว่าเป็นผู้ฝึกทาส (van der Kraaij, 1983)

Language