100 Tage KI Tag 3: Nutzung von KI für schnelles Engineering und Inferenz

Ich schreibe einen Newsletter mit dem Titel „Above Average“, in dem ich über die zweitrangigen Erkenntnisse spreche, die hinter allem liegen, was in der großen Technologiebranche passiert. Wenn Sie sich für Technik interessieren und nicht durchschnittlich sein möchten, abonnieren Sie es .

Ableiten ist im Wesentlichen eine Möglichkeit, mithilfe cleverer Eingabeaufforderungen während der Interaktion mit LLMs Erkenntnisse, Stimmungen und Trends zu extrahieren.

Früher, vor LLMs, erforderte jede dieser Aufgaben eigene Modelle, Schulungen sowie Bereitstellung und Wartung. Aber mit der explosionsartigen Verbreitung von OpenAI und anderen LLMs ermöglicht Inferenz Ihnen, Ihre Produkte durch die Nutzung von LLMs zu verbessern, und Sie müssen dafür kein Datenwissenschaftler oder Ingenieur für maschinelles Lernen sein.

Beispiel 1: Nehmen wir an, Sie betreiben eine E-Commerce-Website und möchten die Stimmung von Kundenbewertungen extrahieren. Sie können dies mit der folgenden Eingabeaufforderung tun. In diesem Fall stelle ich den Rezensionstext und die Eingabeaufforderung zur Verfügung, die Sie darauf verwenden können. Sie können es auf Ihre bevorzugte Weise mit der API von Open AI ausführen. Ich habe mir eine echte Rezension von Amazon für einen Leuchtkasten angesehen, den ich für dieses Beispiel gekauft habe.

 from openai import OpenAI client = OpenAI() client.api_key = 'YOUR_SECRET_KEY' amazon_review = f""" This softbox lighting system is a great value for the price. They were super easy to set and offer multiple types of lighting, with dimmer and remotes for each light. They are lightweight which means they can topple over if bumped. But that was an easy problem to solve. I just created some weights out of an old pair of socks and some dried beans. You could use rice or sand also. Or just buy sandbags. I like to DIY. Anywho, I highly recommend this lighting system. """ story = """ prompt = f""" Identify the following items from the review text: - Sentiment (positive or negative) - Is the reviewer expressing anger? (true or false) - Item purchased by reviewer - Company that made the item The review is delimited with triple backticks. \ Format your response as a JSON object with \ "Sentiment", "Anger", "Item" and "Brand" as the keys. If the information isn't present, use "unknown" \ as the value. Make your response as short as possible. Format the Anger value as a boolean. Review text: '''{amazon_review}''' """ response = client.chat.completions.create( model="gpt-4", messages=[ { "role": "user", "content": prompt } ], temperature=0, #max_tokens=64, #top_p=1 ) print(response.choices[0].message.content)

Die Ausgabe, die ich erhalten habe, ist wie folgt:

{„Sentiment“: „positiv“, „Wut“: falsch, „Artikel“: „Softbox-Beleuchtungssystem“, „Marke“: „unbekannt“}

Dies ist ein cooles Beispiel, das die Leistungsfähigkeit von Schlussfolgerungen mithilfe der API von Open AI zeigt. Mittlerweile ist Amazon ein großes Unternehmen, das bereits KI für die Bereitstellung von Funktionen nutzt, und bei einer der jüngsten Aktualisierungen der Seite scheint es darum zu gehen, alle Bewertungen unter dem Produkt zusammenzufassen. So sieht es für das gleiche Produkt aus.

Glauben Sie, dass es durch Rückschlüsse auf eine Reihe von Kundenbewertungen wiederhergestellt werden kann? Ich glaube schon. Wenn Sie das herausfinden können, kontaktieren Sie mich auf Twitter und lassen Sie es mich wissen.

Beispiel 2: Nehmen wir an, Sie betreiben eine Nachrichten-Website und möchten die Themen finden, um die es in einem Artikel geht, ohne ihn tatsächlich zu lesen. Können Sie dies mithilfe einer Eingabeaufforderung tun und daraus schließen? Ja, du kannst. Hier ist ein Beispielartikel, aus dem ich die in diesem Artikel erwähnten Themen ableite.

 from openai import OpenAI client = OpenAI() client.api_key = 'YOUR_SECRET_KEY' article = """ It hasn't been the best start to 2024 for Elon Musk. The owner of X, formerly known as Twitter, appealed to YouTube's biggest star MrBeast to post his videos on the platform, and was promptly rejected. On Dec. 30, 2023, MrBeast, whose real name is Jimmy Donaldson, posted on X to announce his latest video release was available on YouTube: "I uploaded, go watch or I'll drop kick you." Donaldson had uploaded a 20-minute long video to YouTube, in which he chronicled spending a week in solitary confinement. These types of videos, in which Donaldson challenges either himself or an individual with an extreme task, have earned him worldwide notoriety. The social media mastermind earned an estimated $82 million in 2023, and with more than 225 million subscribers on his main channel alone, is the platform's biggest name. After Donaldson posted the appeal to head to YouTube on X, one fan replied: "Upload on this platform too," which is when Elon Musk chimed in with: "Yeah." Musk, the CEO of Tesla and owner of X, has been trying to drum up interest from video viewers since taking over the social media platform in 2022. Schemes have included launching a media partnership with heiress Paris Hilton—which has since been axed—as well as streaming shows from the likes of former Fox star Tucker Carlson. Musk, now with the help of CEO Linda Yaccarino, has also attempted to drum up revenue by launching premium subscription services on the site, which—among other things—allow for users to appear as "verified" and send DMs to other accounts. The moves have been necessary after droves of advertisers left the site over fears their branding would appear beside unregulated content. Musk, a fierce proponent of free speech, has refused to cow to concern from advertisers about how X will prevent their messages from reportedly appearing beside Nazi propaganda, for example. But Musk's attempt to get MrBeast's content on his site—not even exclusively—was rebuffed by the creator. Donaldson replied to Musk directly: "My videos cost millions to make and even if they got a billion views on X it wouldn't fund a fraction of it :/ I'm down though to test stuff once monetization is really cranking!" The polite rebuttal contrasts with the firm interest Donaldson had previously taken in Twitter. Indeed, Donaldson's bio still reads "X Super Official CEO," harking back to the times when speculation was rife about who would take over the day-to-day running of the platform from the ever-busy Musk. """ prompt = f""" Determine five topics that are being discussed in the \ following text, which is delimited by triple backticks. Make each item one or two words long. Format your response as a list of items separated by commas. Text sample: '''{article}''' """ response = client.chat.completions.create( model="gpt-4", messages=[ { "role": "user", "content": prompt } ], temperature=0, #max_tokens=64, #top_p=1 ) print(response.choices[0].message.content)

Die Ausgabe lautet:

 Elon Musk, Social Media Platforms, YouTube Content, Advertising Concerns, Monetization Strategies

Ziemlich genau, oder?

AI PRODUCT IDEA ALERT: Shopify-App zum Zusammenfassen und Extrahieren von Erkenntnissen aus Kundenbewertungen. Diese App sollte im Shopify App Store gestartet werden. Es würde mich nicht wundern, wenn Shopify dies nativ einführen würde. Allein durch die Verwendung von Prompt Engineering mit offener KI-API wäre dies eine App, die in ein paar Tagen gestartet werden könnte.

Das war’s für Tag 3.

Folgen Sie mir auf Twitter , um die neuesten Updates zu 100 Tagen KI zu erhalten, oder setzen Sie ein Lesezeichen für diese Seite .

Auch hier veröffentlicht.