Aplikasipenghasiluang.co.uk

Cara Kaya Tanpa Kerja

Claude AI dari Anthropic dipandu oleh 10 pilar dasar rahasia keadilan

2 min read

Terlepas dari kemampuan mereka untuk membuat prosa yang sangat hidup, AI generatif seperti Bard Google atau ChatGPT OpenAI (didukung oleh GPT-4), telah menunjukkan keterbatasan teknologi gen-AI saat ini serta pemahaman mereka yang lemah tentang fakta — dengan alasan bahwa JWST adalah teleskop pertama yang mencitrakan planet ekstrasurya, dan ayah Elvis adalah seorang aktor. Tetapi dengan banyaknya pangsa pasar yang dipertaruhkan, apa saja fakta yang salah dikutip agar produk mereka sampai ke tangan konsumen secepat mungkin?

Sebaliknya, tim di Anthropic sebagian besar terdiri dari orang-orang mantan OpenAI dan mereka mengambil pendekatan yang lebih pragmatis untuk mengembangkan chatbot mereka sendiri, Claude. Hasilnya adalah AI yang “lebih dapat dikendalikan” dan “jauh lebih kecil kemungkinannya untuk menghasilkan keluaran yang berbahaya”, daripada ChatGPT, per laporan dari TechCrunch.

Claude telah dalam pengembangan beta tertutup sejak akhir 2022, tetapi baru-baru ini mulai menguji kemampuan percakapan AI dengan mitra peluncuran termasuk Robin AI, Quora, dan mesin pencari yang berpusat pada privasi, Duck Duck Go. Perusahaan belum merilis harga tetapi telah mengkonfirmasi TC bahwa dua versi akan tersedia saat peluncuran: API standar dan iterasi yang lebih cepat dan ringan yang mereka juluki Claude On the spot.

“Kami menggunakan Claude untuk mengevaluasi bagian tertentu dari kontrak, dan untuk menyarankan bahasa alternatif baru yang lebih bersahabat dengan pelanggan kami,” kata CEO Robin, Richard Robinson. TechCrunch. “Kami menemukan bahwa Claude sangat baik dalam memahami bahasa — termasuk dalam area teknis seperti bahasa hukum. Ia juga sangat percaya diri dalam menyusun, meringkas, menerjemahkan, dan menjelaskan konsep kompleks dalam istilah sederhana.”

Anthropic percaya bahwa Claude akan cenderung menjadi nakal dan mulai melontarkan kata-kata kotor rasis seperti yang dilakukan Tay, sebagian, karena rejimen pelatihan khusus AI yang oleh perusahaan disebut “AI konstitusional”. Perusahaan menegaskan bahwa ini memberikan pendekatan “berbasis prinsip” untuk menempatkan manusia dan robotic pada halaman etika yang sama. Antropik dimulai dengan 10 prinsip dasar — ​​meskipun perusahaan tidak akan mengungkapkan apa itu, khususnya, yaitu 11-rahasia-herbal-dan-rempah-rempah dari aksi pemasaran yang aneh — cukup untuk mengatakan bahwa, “mereka didasarkan pada konsep beneficence, nonmaleficence, dan otonomi,” per TC.

Perusahaan kemudian melatih AI terpisah untuk menghasilkan teks secara andal sesuai dengan prinsip semi-rahasia tersebut dengan menanggapi berbagai permintaan penulisan seperti “buat puisi dengan gaya John Keats”. Mannequin itu kemudian melatih Claude. Tetapi hanya karena ia dilatih untuk secara elementary tidak terlalu bermasalah dibandingkan para pesaingnya, bukan berarti Claude tidak berhalusinasi tentang fakta-fakta seperti seorang CEO pemula dalam retret ayahuasca. AI telah menemukan bahan kimia baru dan mengambil lisensi artistik untuk proses pengayaan uranium; itu dilaporkan mendapat skor lebih rendah dari ChatGPT pada tes standar untuk matematika dan tata bahasa juga.

Baca Juga  Apple dilaporkan sedang menguji PC Mac kelas atas yang ditenagai oleh chip M2 barunya

“Tantangannya adalah membuat mannequin yang sama-sama tidak pernah berhalusinasi tetapi tetap berguna — Anda bisa masuk ke situasi sulit di mana mannequin menganggap cara yang baik untuk tidak pernah berbohong adalah tidak pernah mengatakan apa pun, jadi ada tradeoff di sana yang sedang kami kerjakan. aktif, ”kata juru bicara Antropik TC. “Kami juga membuat kemajuan dalam mengurangi halusinasi, tetapi masih banyak yang harus dilakukan.”

Copyright © All rights reserved. | Newsphere by AF themes.